Речь идет о боевых машинах, самолетах, вертолетах, мини-субмаринах и катерах, запрограммированных на уничтожение противника и действующих полностью автономно. То есть, попросту говоря, ими не управляют операторы с земли или из укрытия, как, например, давно применяющимися самолетами-беспилотниками. Роботу дается программа общего характера, а дальше он уже решает сам, кого бомбить, куда стрелять, в какую сторону запускать ракету или торпеду.

Еще недавно такие автономные боевые единицы встречались только на страницах научно-фантастической литературы. Но сегодня это уже реальность. Разработкой боевых роботов занимаются в США, Великобритании и Израиле. Правда, на театре военных действий они пока не применялись.

Поэтому, пока не стало поздно, правозащитники спешат поставить вопрос. Их волнуют вполне очевидные проблемы: кто будет принимать решение об убийстве; сможет ли робот отличить военного от мирного жителя, а скопление военной техники от каравана беженцев или просто толпы народа, съехавшегося с разных сторон на свадьбу или на какой-нибудь праздник?

Да, конечно, в робота, как в компьютер, будет заложена конкретная программа с указанием примет, внешних особенностей и характеристик, однако решительно невозможно предусмотреть всего. Вот простейший пример: военные могут действовать в штатском, а сугубо мирные люди – в военном камуфляже. И как тут роботу разобраться? На что в первую очередь реагировать?

Еще одна сложность: как машина будет отличать своих от чужих?

Или еще одна сложность: как машина будет отличать своих от чужих? Допустим, свои должны будут подать какой-то сигнал. Ну а если они забудут или не успеют в горячке боевой операции? Только роботы никогда не ошибаются и предельно четко выполняют все инструкции. Живые нормальные люди на подобный автоматизм не способны.

История современных войн знает десятки, если не сотни трагедий, когда управляемый оператором беспилотник, а то и бомбардировщик или истребитель с пилотом на борту по ошибке поражали сугубо мирные цели. Достаточно задать поиск по фразе: «военные обстреляли колонну мирных беженцев» – и выскочат тысячи новостей.

В одном только Афганистане за последние пять лет произошло больше десяти авиаударов по свадьбам и деревенским праздникам. И это не исключительная и уникальная, а вполне типичная военная ошибка, которой на протяжении десятилетий грешили и авиация, и артиллерия.

Достаточно хотя бы вспомнить пронзительные строки Александра Межирова:

«Мы под Колпином скопом стоим,

Артиллерия бьет по своим.

Это наша разведка, наверно,

Ориентир указала неверно…»

Так что и без роботов хватает проблем, а с применением боевых машин они только усугубятся. Правозащитники утверждают, что основная проблема – не в использовании роботов как оружия само по себе, а в контроле над процессом принятия решений.

«Традиционный подход заключается в том, что есть воин и оружие, – объяснил суть проблемы эксперт ООН Кристоф Хейнс. – Но сейчас мы видим, что оружие становится воином, оружие само принимает решения».

Лауреат Нобелевской премии мира Джоди Уильямс даже организовала целую гражданскую кампанию «Остановим роботов-убийств». Но не все специалисты согласны с таким подходом. Так, профессор Рональд Аркин из Технологического института штата Джорджия разработал концепцию «этического регулятора».

По его словам, робот будет запрограммирован в соответствии с нормами международного права и правилами применения оружия. «Все начинают кричать: «роботы-убийцы, роботы-убийцы». Но у нас солдаты людей убивают, ужасы продолжаются, и так было с самого начала военной истории», – отмечает он. И делает парадоксальный вывод: «Нам нужны технологии для снижения числа жертв среди мирного населения».

Впрочем, кроме дополнительных морально-этических проблем появляются стратегические и военные риски. Сегодня лидерство в сфере разработки военных технологий остается у США. Но конкуренты тоже не дремлют.

«На данный момент 76 стран разрабатывают программы применения роботов в военных целях», – уверяет эксперт Брукингского института Питер Сингер. И если эти роботы начнут автономно воевать друг с другом, то последствия становятся непредсказуемыми. Начнутся бесконечные бесчеловечные войны, которые могут сделать мир безлюдным.

А вдруг роботы-победители, истребив кибернетических врагов, примутся за живую силу?

Кто знает, а вдруг роботы-победители, истребив кибернетических врагов, примутся за «живую силу»? И остановить их будет не так уж просто. Это ведь сложные устройства, у которых найти «кнопку» не проще, чем у биоробота Электроника из популярного детского фантастического фильма.

Если кому-то кажется, что вышеописанная картина маловероятна и возможна лишь в фантастических романах и фильмах, то неплохо бы вспомнить, что еще недавно сам факт возможности применения робота на поле боя казался фантастическим, немыслимым, невозможным. Но технический прогресс неостановим. И никогда нельзя исключать вероятности элементов так называемого «бунта машин».

Пит Сингер полагает, что появление на поле боя боевых роботов поднимает фундаментальные вопросы: «Время от времени в истории боевой техники наступает момент, когда появляется нечто, что приводит к полному изменению ситуации. Так было с порохом, так было с пулеметом, атомной бомбой, компьютером. И боевые роботы могут стать такой революционной технологией».

«Это означает, что с их появлением изменится все – начиная с тактики, применяемой на поле боя, до организации войск, не говоря уже о вопросах политики, этики и права», – считает эксперт.

И это уже вопрос общественно-политический и, возможно, этический, но уж точно не чисто военный. Потому и им и занялась ООН и ее комитет по правам человека. Ведь если, не дай бог, на наши права начнут покушаться боевые роботы, мы никак не сможем им противостоять.

 

Николай Троицкий