Инициативы Пентагона в области ИИ ускоряют принятие сложных решений по созданию смертоносного автономного оружия

В течение многих лет американские военные службы продолжали расширять использование технологий искусственного интеллекта, но только в последнее десятилетие они приняли революционные достижения в области искусственного интеллекта, которые коренным образом изменят характер войны. (25 ноября) (AP Production by Mike Pesoli)

НЭЙШНЛ-ХАРБОР, штат Мэриленд (AP) - Искусственный интеллект, используемый американскими военными, управляет миниатюрными беспилотными летательными аппаратами в миссиях сил специальных операций и помогает Украине в ее войне против России. Он отслеживает физическую форму солдат, предсказывает, когда самолетам ВВС потребуется техническое обслуживание, и помогает следить за соперниками в космосе.

Теперь Пентагон намерен к 2026 году поставить на вооружение несколько тысяч относительно недорогих автономных машин, оснащенных искусственным интеллектом, чтобы не отстать от Китая. Амбициозная инициатива, получившая название Replicator, призвана "активизировать прогресс в слишком медленном переходе американских военных инноваций к использованию малых, умных, дешевых и многочисленных платформ", - заявила в августе заместитель министра обороны Кэтлин Хикс.

Несмотря на неопределенность финансирования и неясность деталей, ожидается, что программа Replicator ускорит принятие жестких решений о том, какие технологии ИИ являются достаточно зрелыми и надежными для развертывания, в том числе в системах с оружием.

Вопросы и ответы инсайдера: Руководитель отдела ИИ Пентагона о сетецентрических боевых действиях, проблемах генеративного ИИ.
На этом фото (см. по ориг-й ссылке), предоставленном правительством Северной Кореи, лидер Северной Кореи Ким Чен Ын наблюдает за состоянием спутника в центре управления спутниками в Пхеньяне, Северная Корея, среда, 22 ноября 2023 г. , после того как во вторник вечером северокорейское космическое агентство сообщило, что его новая ракета-носитель "Чоллима-1" точно вывела на орбиту спутник Malligyong-1. Независимые журналисты не были допущены к освещению события, запечатленного на этом снимке, распространенном правительством Северной Кореи. Содержание этого изображения указано в том виде, в котором оно было предоставлено, и не может быть проверено независимыми экспертами. Водяной знак на изображении на корейском языке, предоставленный источником, гласит: "KCNA", что является аббревиатурой Центрального информационного агентства Кореи. (Центральное информационное агентство Кореи/Korea News Service via AP)
Запуск северокорейской ракеты после того, как Южная Корея частично приостановила действие их соглашения 2018 года, скорее всего, не состоялся.

Ученые, промышленные эксперты и представители Пентагона практически не спорят с тем, что в ближайшие несколько лет США будут располагать полностью автономным смертоносным оружием. И хотя официальные лица настаивают на том, что человек всегда будет контролировать ситуацию, эксперты утверждают, что прогресс в скорости обработки данных и межмашинной коммуникации неизбежно приведет к тому, что человек будет отходить на второй план.

Это особенно верно, если, как ожидается, смертоносное оружие будет массово применяться в стаях беспилотников. Над этим работают многие страны, но ни Китай, ни Россия, ни Иран, ни Индия, ни Пакистан не подписали инициированное США обязательство ответственно относиться к использованию военного ИИ.

Беспилотный летательный аппарат Longshot, разрабатываемый компанией General Atomics совместно с Агентством перспективных оборонных исследований для использования в паре с пилотируемыми самолетами ВВС, демонстрируется на конференции Air & Space Forces Association Air, Space & Cyber Conference в Оксон-Хилле, штат Мэриленд, в среду, 13 сентября 2023 года. Пентагон планирует использовать такие беспилотники в "человеко-машинной команде" для поражения противника. Но для того, чтобы их можно было использовать на практике, разработчикам необходимо доказать, что технология искусственного интеллекта достаточно надежна и заслуживает доверия. 

Неясно, проводит ли Пентагон в настоящее время официальную оценку какой-либо полностью автономной системы летального оружия на предмет ее развертывания, как того требует директива 2012 года. Представитель Пентагона не стал отвечать на этот вопрос.

Сдвиг парадигмы
Репликатор" подчеркивает огромные технологические и кадровые проблемы, стоящие перед Пентагоном в области закупок и разработок, поскольку революция ИИ обещает изменить методы ведения войн.

"Министерство обороны испытывает трудности с внедрением разработок в области ИИ, полученных после последнего прорыва в области машинного обучения", - говорит Грегори Аллен, бывший высокопоставленный сотрудник Пентагона по вопросам ИИ, ныне работающий в аналитическом центре Center for Strategic and International Studies.

В портфеле Пентагона насчитывается более 800 несекретных проектов, связанных с ИИ, многие из которых все еще находятся в стадии тестирования. Как правило, машинное обучение и нейронные сети помогают людям получать информацию и повышать эффективность.

"ИИ, который сейчас используется в Министерстве обороны, в значительной степени дополняет людей, - говорит Мисси Каммингс, директор Центра робототехники Университета Джорджа Мейсона и бывший летчик-истребитель ВМС. "ИИ не работает сам по себе. Люди используют его, чтобы попытаться лучше понять туман войны".

Космос - новый рубеж войны
Одной из областей, где инструменты с помощью ИИ отслеживают потенциальные угрозы, является космос - новейший рубеж военного соперничества.

Китай планирует использовать ИИ, в том числе на спутниках, для "принятия решений о том, кто является, а кто не является противником", - заявила в этом месяце на онлайн-конференции руководитель отдела технологий и инноваций Космических сил США Лиза Коста.

США намерены идти в ногу со временем.

Эксплуатационный прототип Machina, используемый Космическими силами, ведет автономное наблюдение за более чем 40 000 объектов в космосе, организуя тысячи ночных сборов данных с помощью глобальной сети телескопов.

Алгоритмы Machina объединяют датчики телескопов. Компьютерное зрение и большие языковые модели подсказывают им, какие объекты необходимо отслеживать. ИИ мгновенно создает хореографические рисунки на основе наборов данных по астродинамике и физике, рассказал на конференции в августе полковник Уоллес Рет Тернбулл (Wallace 'Rhet' Turnbull) из Командования космических систем.

По его словам, еще один проект ИИ в Космических силах анализирует данные радаров, чтобы обнаружить предстоящие запуски ракет противника.

Обслуживание самолетов и солдат
В других случаях прогностические возможности ИИ помогают ВВС поддерживать свой флот в рабочем состоянии, предвидя необходимость технического обслуживания более чем 2600 самолетов, включая бомбардировщики B-1 и вертолеты Blackhawk.

По словам Тома Сибела (Tom Siebel), генерального директора компании C3 AI, расположенной в Силиконовой долине и выполняющей контракт, модели машинного обучения определяют возможные неисправности за десятки часов до их возникновения. Технологии C3 также моделируют траектории полета ракет для Агентства противоракетной обороны США и выявляют внутренние угрозы среди федеральных служащих для Агентства военной контрразведки и безопасности.

Среди работ в области здравоохранения - пилотный проект по отслеживанию физической формы всей третьей пехотной дивизии сухопутных войск - более 13 000 солдат. По словам майора Мэтта Виссера, предиктивное моделирование и искусственный интеллект помогают снизить травматизм и повысить работоспособность.

Помощь Украине
На Украине ИИ, предоставленный Пентагоном и его союзниками по НАТО, помогает противостоять российской агрессии.

Союзники по НАТО обмениваются разведывательными данными, собранными спутниками, беспилотниками и людьми, некоторые из которых агрегируются с помощью программного обеспечения американского подрядчика Palantir. Некоторые данные поступают из Maven - проекта Пентагона по созданию искусственного интеллекта для определения траектории движения, который в настоящее время в основном управляется Национальным агентством геопространственной разведки, говорят официальные лица, в том числе генерал ВВС в отставке Джек Шанахан, первый директор Пентагона по искусственному интеллекту,

Проект Maven начался в 2017 году с обработки видеозаписей с беспилотников на Ближнем Востоке, что было вызвано действиями сил специальных операций США по борьбе с ИГИЛ и Аль-Каидой, а в настоящее время он объединяет и анализирует широкий спектр данных, полученных с помощью датчиков и человека.

По словам представителей Пентагона, искусственный интеллект также помог созданной США Группе содействия безопасности на Украине организовать материально-техническое обеспечение военной помощи, поступающей от коалиции из 40 стран.

Общедоменное командование и управление
Чтобы выжить на поле боя в наши дни, военные подразделения должны быть небольшими, практически незаметными и быстро перемещаться, поскольку растущие в геометрической прогрессии сети датчиков позволяют любому человеку "видеть любую точку земного шара в любой момент", - заметил в июне в своем выступлении тогдашний председатель Объединенного комитета начальников штабов генерал Марк Милли. "А то, что вы видите, вы можете стрелять".

Для более быстрого соединения боевых единиц Пентагон поставил во главу угла создание взаимосвязанных боевых сетей, получивших название Joint All-Domain Command and Control, для автоматизации обработки оптических, инфракрасных, радиолокационных и других данных в рамках вооруженных сил. Но задача эта грандиозна и чревата бюрократией.

Кристиан Броуз, бывший руководитель аппарата сенатского комитета по вооруженным силам, ныне работающий в оборонной компании Anduril, относится к числу сторонников военной реформы, которые, тем не менее, считают, что "в определенной степени они здесь выигрывают".

"Спор может идти не столько о том, правильно ли это, сколько о том, как мы это сделаем на самом деле - и в требуемые быстрые сроки", - сказал он. В книге Броуза "Цепь поражения" ("The Kill Chain"), вышедшей в 2020 г., приводятся аргументы в пользу необходимости срочного переоснащения, чтобы сравняться с Китаем в гонке за разработку более умных и дешевых сетевых систем вооружений.

С этой целью американские военные активно работают над созданием "человеко-машинной команды". В настоящее время десятки беспилотных воздушных и морских аппаратов следят за активностью Ирана. Морские пехотинцы и спецназ США также используют для защиты американских войск автономный мини-коптер Ghost, сенсорные башни и технологии противодействия беспилотным летательным аппаратам Anduril.

Важную роль сыграли достижения в области компьютерного зрения. ИИ Shield AI позволяет беспилотникам работать без GPS, связи и даже без удаленных пилотов. Это ключ к созданию квадрокоптера Nova, который американские подразделения специального назначения используют в зонах конфликтов для разведки зданий.

На горизонте: В рамках программы ВВС "Верный ведомый" предполагается объединить пилотируемые самолеты с автономными. Например, пилот F-16 может посылать беспилотники на разведку, отвлекать огонь противника или атаковать цели. Руководители ВВС планируют начать ее реализацию в конце этого десятилетия.

Гонка за полной автономностью
Сроки создания "верного ведомого" не совсем совпадают со сроками создания Replicator, которые многие считают чрезмерно амбициозными. По словам Пола Шарра, военного эксперта по ИИ и автора книги "Четыре поля битвы", неясность в отношении Replicator может быть отчасти направлена на то, чтобы заставить соперников гадать, хотя планировщики, возможно, еще не определились с функциями и целями миссии.

Компании Anduril и Shield AI, каждая из которых опирается на сотни миллионов венчурного капитала, входят в число компаний, борющихся за получение контрактов.

Натан Майкл, директор по технологиям компании Shield AI, считает, что через год они смогут создать автономный рой из как минимум трех беспилотных летательных аппаратов, используя свой беспилотный летательный аппарат V-BAT. По словам компании, в настоящее время американские военные используют V-BAT - без искусственного интеллекта - на кораблях ВМС, в миссиях по борьбе с наркотиками и для поддержки экспедиционных подразделений морской пехоты.

По словам Майкла, пройдет некоторое время, прежде чем можно будет надежно использовать более крупные рои. Все идет по принципу "ползет - идет - бежит", если только вы не настраиваете себя на неудачу".

Единственные системы вооружений, которым Шанахан, инаугурационный глава Пентагона по ИИ, в настоящее время доверяет автономную работу, являются полностью оборонительными, например, противоракетные системы Phalanx на кораблях. Он меньше беспокоится о том, что автономное оружие будет принимать самостоятельные решения, чем о том, что системы будут работать не так, как заявлено в рекламе, или убивать некомбатантов или дружественные силы.

Нынешний руководитель отдела цифровых технологий и искусственного интеллекта Крейг Мартелл намерен не допустить этого.

"Независимо от степени автономности системы, всегда будет существовать ответственный агент, который понимает ограничения системы, хорошо обучился работе с ней, имеет обоснованную уверенность в том, когда и где она может быть развернута, - и всегда будет брать на себя ответственность", - сказал Мартелл, ранее возглавлявший подразделения машинного обучения в LinkedIn и Lyft. "Этого никогда не будет".

Что касается того, когда ИИ станет достаточно надежным для смертоносной автономии, Мартелл считает, что обобщать не имеет смысла. Например, Мартелл доверяет адаптивному круиз-контролю своего автомобиля, но не технологии, которая должна удерживать его от смены полосы движения. "Как ответственный агент, я бы не стал использовать эту систему, за исключением очень ограниченных ситуаций", - сказал он. "А теперь экстраполируйте это на военных".

Управление Мартелла оценивает потенциальные варианты использования генеративного ИИ - для этого создана специальная целевая группа, - но больше внимания уделяет тестированию и оценке разрабатываемого ИИ.

По словам Джейн Пинелис, главного инженера по ИИ в Лаборатории прикладной физики Университета Джонса Хопкинса и бывшего начальника отдела обеспечения ИИ в офисе Мартелла, одной из насущных проблем является набор и удержание специалистов, необходимых для тестирования технологий ИИ. Пентагон не может конкурировать по уровню заработной платы. Доктора наук в области компьютерных наук, обладающие навыками работы с ИИ, могут зарабатывать больше, чем генералы и адмиралы высшего военного звена.

Стандарты тестирования и оценки также незрелы, что было отмечено в недавнем докладе Национальной академии наук об искусственном интеллекте в ВВС.

Может ли это означать, что в один прекрасный день США начнут использовать автономное оружие, которое не пройдет проверку на прочность?

"Мы все еще исходим из того, что у нас есть время, чтобы сделать это как можно более строго и тщательно", - сказал Пинелис. "Я думаю, что если мы окажемся менее чем готовы и настанет время действовать, то кому-то придется принимать решение".