The New York Times | 26 октября 2016 г.
Пентагон столкнулся с "дилеммой Терминатора": следует ли использовать роботов, способных убивать самостоятельно?
Мэттью Розенберг и Джон Маркофф
Маленький вертолет-беспилотник носился над полигоном, имитирующим ближневосточную деревню, и с помощью камеры высматривал мишени, повествуют журналисты The New York Times Мэттью Розенберг и Джон Маркофф в репортаже с базы Кэмп Эдвардс в штате Массачусетс.
Беспилотник представлял собой стандартное устройство, которое продается на "Амазоне". Но он действовал самостоятельно, без дистанционного управления. На него установили сверхсовременный софт класса искусственного интеллекта, и теперь этот робот обнаруживал и распознавал в деревне вооруженных людей - точнее, мужчин с макетами "АК-47", игравших на испытаниях роль "повстанцев".
Эта демонстрация охотничьего искусства беспилотника-робота - предвестье коренных перемен в методах ведения войны, задуманных Пентагоном, считает издание.
"За пределами военных кругов остался почти незамеченным тот факт, что Пентагон сделал искусственный интеллект центральным элементом своей стратегии, дабы сохранить за США положение господствующей в мире военной державы. Он расходует миллиарды долларов на разработки автономных и полуавтономных вооружений (таков употребляемый им термин), а также на создание арсенала вооружений, подобные которым доселе существовали только в научной фантастике и голливудском кино. Это тревожит ученых и активистов, которые опасаются последствий "гонки роботизированных вооружений", - сообщает издание.
Пентагон разрабатывает роботизированные военные самолеты. "Он испытал ракеты, которые способны сами решать, что им атаковать. Он построил корабли, способные охотиться за вражескими подлодками, без помощи человека выслеживая обнаруженную добычу за тысячи миль", - пишет издание.
Чиновники американского оборонного ведомства говорят, что США нуждаются в таком оружии, чтобы сохранить военное превосходство над соперниками.
"Китай и Россия разрабатывают боевые компьютерные сети, которые не хуже наших. Они могут видеть так же далеко, как наши, они могут запускать управляемые боеприпасы так же далеко, как мы, - говорит Роберт О. Уок, заместитель министра обороны США, вдохновитель разработок автономных вооружений. - Мы просто хотим гарантировать, что сможем одержать победу так же быстро, как нам удавалось в прошлом".
Технология искусственного интеллекта позволяет Пентагону пересмотреть роль людей и машин на поле боя.
Новые вооружения обеспечат быстроту и меткость, превосходящие возможности любого человека, а также снизят число солдат и пилотов, которым в бою угрожает риск смерти или увечий. Издержки на живую силу тоже уменьшатся. Но перед Пентагоном стоит непростая задача: сделать вооружения надежными партнерами людей, а не потенциальной угрозой для своих же.
Основой стала стратегия, которую в Пентагоне нарекли "кентаврическое ведение войны". Она гласит, что автономные вооружения должны не подменять собой людей-военнослужащих, а развивать и совершенствовать их творческую смекалку и умение решать проблемы.
Уок отметил, что в понимании Пентагона автономные вооружения будут походить скорее на "Железного Человека" из комиксов, чем на Терминатора.
Когда встанет вопрос жизни и смерти, "в иерархии принятия решений всегда будет присутствовать человек", заверил он.
Однако сотни ученых и экспертов в прошлом году предостерегли в открытом письме, что разработки даже сравнительно "тупого" умного оружия - это риск глобальной гонки вооружений. Появятся дешевые роботы-убийцы, которыми смогут воспользоваться не только великие державы, но также страны-изгои и экстремисты.
По словам авторов, сейчас американские военные спорят между собой уже не о том, стоит ли создавать автономные вооружения, а о пределах их независимости. Генерал Пол Дж. Сельва недавно заявил, что через 10 лет у США будут технологии создания полностью независимого робота, способного самостоятельно решать, кого и когда убивать. Правда, добавил генерал, США не намерены создавать таких роботов.
Официальные лица США лишь начинают задумываться о последствиях существования автономных вооружений. В Пентагоне это прозвали "дилеммой Терминатора". "Нет единого мнения о том, что делать Соединенным Штатам - то ли ратовать за международные договоры, чтобы попытаться запретить разработки подобного оружия, то ли создавать собственные вооружения этого типа в противовес потенциальным арсеналам своих врагов", - пишет газета.
Пока автономное оружие выглядит не столь устрашающе. Беспилотник, испытанный этим летом, не может взлетать по собственной инициативе, а иногда путает минареты с вооруженными людьми.
"Но в другие моменты он проявлял поразительную способность отличать военных от гражданских лиц, а также плавно менять курс и приближаться к объектам, которые он не мог быстро идентифицировать", - говорится в статье.
Используя несколько модифицированное ПО из арсенала американских спецслужб, беспилотник следил за движущимися автомобилями, обнаруживал врагов, которые прятались у стен. Он даже верно рассудил, что фотограф, направивший на него фотоаппарат, неопасен.
"Это проект американского Агентства перспективных исследований в области обороны (Darpa). Оно разрабатывает программное обеспечение, которое понадобится машинам, способным действовать, совместно с небольшими группами пехотинцев или морпехов в качестве разведчиков или в иных ролях", - говорится в статье.
"Этот беспилотник легко снабдить оружием", - продолжают авторы. Сложность в том, чтобы разработать машину, которая ведет себя предсказуемо (иначе ее небезопасно применять), но способна адаптироваться к изменчивым ситуациям. "Когда с этой задачей удастся справиться, машине будет легко приказать, в кого или во что стрелять; вооружения, программируемые на обстрел объектов определенного типа, уже существуют", - говорится в статье.
"Но если технологии, обеспечивающие надлежащее поведение, удастся успешно разработать, вряд ли они останутся исключительно в руках США. Обычно технологии, разработанные Darpa, рассекречиваются. Многие из них сегодня встречаются повсюду", - говорится в статье.
Как бы то ни было, Уок надеется на "кентаврическое ведение войны" - на то, что интеллектуальные компьютеры превратят обычных командиров в великих тактиков. "Американские военные фактически станут сверхчеловеками, воюя бок о бок с роботами (или даже внутри них)", - говорится в статье.
Из 18 млрд долларов, которые Пентагон расходует на новые технологии, 3 млрд выделены специально на "боевые коллективы человек-машина". Эти деньги предстоит затратить в ближайшие пять лет.
Однако в Пентагоне говорят, что США вряд ли обретут абсолютное технологическое превосходство над соперниками. Уок полагает, что залогом превосходства американцев окажется сочетание технических достижений с критическим мышлением и способностью принимать решения. "В американских вооруженных силах важные решения делегируются сверху вниз по иерархии командования. Вооруженные силы России и Китая, напротив, более централизованы. Правда, структура меняется", - говорится в статье.
Сторонние эксперты далеко не уверены, что благодаря искусственному интеллекту США смогут сохранить свое господство. Оборонная промышленность перестала быть движущей силой исследований, у Пентагона нет монополии на передовые технологии машинного обучения. Военная техника в некоторых случаях на несколько лет отстает от бытовой электроники.
Тем временем ученые и правозащитники призывают установить над автономными вооружениями "серьезный контроль человека".
"Но будут ли соблюдаться этические нравственные стандарты, если США столкнутся с равным или почти равным по мощи противником, применяющим абсолютно автономные вооружения?" - вопрошает издание.
Американский эксперт Питер Сингер провел параллели с историей применения подлодок на войне.
В годы Первой мировой войны то, что подлодки Германии топили гражданские суда, считалось варварством. США и другие страны заключили договор о запрете так называемой "неограниченной подводной войны".
Однако 7 декабря 1941 года Япония атаковала Перл-Харбор, и командование армии США, отбросив этически-правовые нормы, приказало начать неограниченную подводную войну против Японии. Позднее действия США против торгового флота Японии были приравнены к военному преступлению.
Обратная связь: редакция / отдел рекламы
Подписка на новости (RSS)
Информация об ограничениях