Полностью автономное, основанное на технологиях ИИ будущее войны уже настало

Флот кораблей-роботов мягко покачивается в теплых водах Персидского залива, где-то между Бахрейном и Катаром, вероятно, примерно в 100 милях от побережья Ирана. Я нахожусь на палубе ближайшего к ним катера Береговой охраны США, стоя на левом борту и щурясь в попытке разглядеть их. Сейчас начало декабря 2022 года, и горизонт усеян множеством нефтяных танкеров, грузовых судов и крошечных рыбацких лодок, мерцающих в жарком воздухе. Пока наш катер огибает флотилию кораблей-роботов, я мечтаю о зонтике или хотя бы об облачке.

Роботы не разделяют мою острую потребность в тени, характерную для жалкой человеческой природы, и не нуждаются в каких-либо других биологических удобствах. Это видно по их конструкции. Некоторые из них напоминают стандартные патрульные катера, подобные тому, на котором я стою, но большинство из них меньше, компактнее и сидят ниже в воде. Один очень похож на каяк на солнечных батареях. Другой выглядит как доска для серфинга с металлическим парусом. А еще один напоминает мне автомобиль Google Street View на понтонах.

Эти роботы собраны здесь для участия в учениях, которые проводит Оперативная группа 59 в составе Пятого флота ВМС США. Она специализируется на робототехнике и искусственном интеллекте – двух быстро развивающихся технологиях, которые определят будущее войны. Миссия Оперативной группы 59 состоит в том, чтобы быстро интегрировать эти технологии в операции ВМС, что она и делает, покупая готовые новейшие технологии у частных подрядчиков и создавая из них единую систему. В учениях в Персидском заливе были задействованы более десятка автономных платформ – надводных кораблей, подводных аппаратов и беспилотных летательных аппаратов. Эти платформы должны стать глазами и ушами Оперативной группы 59: они будут вести наблюдение за поверхностью океана с помощью камер и радаров, слушать под водой с помощью гидрофонов и обрабатывать собранные ими данные с помощью так называемых алгоритмов сопоставления с образцом, которые позволяют отличать нефтяные танкеры от судов контрабандистов.

Человек, стоящий на палубе катера Береговой охраны США, привлекает мое внимание к одному из кораблей, похожему на доску для серфинга. Это судно резко складывает свой парус, будто автоматический нож с выкидным лезвием, и пропадает под водой. Этот аппарат под названием "Тритон" можно запрограммировать таким образом, чтобы он поступал так всякий раз, когда его системы почувствуют опасность. Мне кажется, что этот трюк с исчезновением будет весьма полезным в условиях реального мира: за пару месяцев до этих учений иранский военный корабль сумел захватить два автономных судна под названием Saildrone, потому что они не умеют погружаться под воду, и военно-морскому флоту США пришлось вмешаться, чтобы их вернуть.

"Тритон" способен оставаться под водой до пяти дней, всплывая в те моменты, когда на берегу чисто, чтобы зарядить батареи и связаться с базой. К счастью, нашему катеру не придется торчать здесь так долго. Он запускает свой двигатель и с ревом несется обратно к стыковочному отсеку катера Береговой охраны длиной в 45 метров. Я направляюсь прямиком на верхнюю палубу, где, как мне известно, под тентом стоит упаковка бутилированной воды. Пока я иду, мой взгляд останавливается на тяжелых пулеметах и минометах, направленных в море.

Палуба понемногу остывает на ветру, пока наш катер возвращается на базу в Манаме, Бахрейн. В пути я завязываю разговоры с членами экипажа. Мне не терпится поговорить с ними об украинском конфликте и об интенсивном применении беспилотников в нем – от любительских квадрокоптеров, оснащенных ручными гранатами, до полноценных военных систем. Мне хочется спросить их о недавней атаке на российскую военно-морскую базу в Севастополе, в которой было задействовано несколько катеров-беспилотников украинского производства со взрывчаткой, а также о публичной кампании по сбору средств на строительство новых катеров. Но подобные беседы невозможны, как объяснил мой сопровождающий – резервист из компании Snap: поскольку Пятый флот проводит операции в другом регионе, у членов Оперативной группы 59 мало информации о том, что происходит на Украине. Вместо этого мы обсуждаем ИИ-генераторы изображений и то, могут ли они оставить художников без работы, а также вопрос о том, что гражданское общество, похоже, уже практически достигло переломного момента в своих взаимоотношениях с искусственным интеллектом. По правде говоря, мы еще и половины не знаем. Прошел всего день с тех пор, как OpenAI запустила свой чат-бот ChatGPT 504, который способен взорвать интернет.

Вернувшись на базу, я направляюсь в Оперативный центр робототехники (ОЦР), где группа людей наблюдает за множеством датчиков, размещенных на воде.ОЦР представляет собой помещение без окон с несколькими рядами столов и компьютерных мониторов – довольно безликое, если не считать стен, на которых развешены вдохновляющие цитаты таких известных деятелей, как Уинстон Черчилль и Стив Джобс.Здесь я знакомлюсь с главой Оперативной группы 59 капитаном Майклом Брассером (Michael Brasseur) – загорелым мужчиной с бритой головой, открытой улыбкой и матросским прищуром. (К настоящему моменту Брассер уже уволился из ВМС.) Он шагает между столами, с энтузиазмом объясняя, как работает ОЦР. "Здесь все данные, поступающие от беспилотных систем, сливаются воедино, и здесь мы используем искусственный интеллект и технологии машинного обучения, чтобы получать по-настоящему захватывающие результаты", – говорит Брассер, потирая руки и улыбаясь.

Мониторы компьютеров мерцают. Искусственный интеллект Оперативной группы 59 идентифицирует подозрительные суда в этом районе. Сегодня он уже пометил несколько кораблей, которые не соответствовали их опознавательным сигналам, заставив членов Оперативной группы 59 как следует к ним присмотреться. Брассер показывает мне новый интерфейс, который в настоящий момент находится в разработке и который позволит его команде выполнять множество задач на одном экране – от просмотра изображений с камеры корабля-дрона до перенаправления его в нужное место.

Брассер и другие члены группы на базе подчеркивают, что автономные системы, которые они тестируют, предназначены только для выявления и обнаружения, а вовсе не для вооруженного вмешательства. "Текущая задача Оперативной группы 59 заключается в повышении визуальной доступности, – говорит Брассер. – Все, что мы делаем здесь, направлено на обеспечение поддержки судов с экипажами". Однако некоторые из кораблей-роботов, задействованных в учениях, демонстрируют, насколько коротким может оказаться расстояние между невооруженным наблюдением и вооруженным вмешательством – это лишь вопрос смены полезной нагрузки и корректировки настроек программного обеспечения. К примеру, автономный скоростной катер Seagull предназначен для поиска мин и подводных лодок – он делает это с помощью гидроакустической антенной решетки. Но Амир Алон (Amir Alon), директор израильской оборонной фирмы Elbit Systems, разработавшей Seagull, объясняет мне, что этот катер-робот также может быть оснащен дистанционно управляемым пулеметом и торпедами, запускаемыми с палубы. "Он может работать автономно, но мы не рекомендуем это делать, – добавляет он с улыбкой. – Мы не хотим начинать третью мировую войну".

Однозначно не хотим. Но ироничное замечание Алона затрагивает одну важную истину: автономные системы, способные убивать, уже существуют по всему миру. В любом крупном конфликте, даже таком, который по своим масштабам очень далек от третьей мировой войны, все стороны вскоре столкнутся с искушением не только вооружить эти системы, но и в некоторых ситуациях упразднить человеческий контроль, предоставив машинам полную свободу действий, чтобы они могли сражаться со скоростью машин. И в такой войне искусственного интеллекта против искусственного интеллекта будут умирать только люди. В связи с этим было бы вполне разумно задаться вопросом: как мыслят эти машины и люди, которые их строят?

***

Проявления автономных технологий присутствуют в вооруженных силах США вот уже несколько десятилетий – сюда относится многое, от программного обеспечения автопилотов в самолетах и беспилотниках до автоматических палубных орудий, которые защищают военные корабли от атакующих их ракет. Но функционал этих систем ограничен, то есть они предназначены для выполнения определенных функций в определенных средах и ситуациях. Эти системы автономны, но не разумны. Только в 2014 году высшее руководство Пентагона начало рассматривать возможность создания более совершенных автономных технологий, увидев в них решение гораздо более серьезной проблемы.

Боб Уорк (Bob Work), который в тот момент занимал должность заместителя министра обороны, был обеспокоен тем, что геополитические соперники Соединенных Штатов постепенно "приближаются к паритету" с американскими вооруженными силами. По его словам, он захотел выяснить, как можно "восстановить превосходство" – как сделать так, чтобы, даже если Соединенные Штаты не смогут выставить столько же солдат, самолетов и кораблей, сколько, скажем, Китай, они все равно сумеют выйти победителями из любого потенциального конфликта. Уорк спросил группу ученых и технологов, на чем именно Министерству обороны следует сосредоточить свои усилия. "Они посоветовались и ответили, что необходимо сконцентрироваться на создании автономных систем, оснащенных ИИ", – вспоминает Уорк. И он принялся работать над национальной оборонной стратегией, которая позволила бы культивировать инновации, поступающие от технологического сектора, в том числе новые возможности, которые дает машинное обучение.

Но сказать легче, чем сделать. Министерство обороны построило несколько автономных платформ, в том числе экспериментальный военный корабль Sea Hunter стоимостью 20 миллионов долларов и Ghost Fleet Overlord – флотилию обычных судов, усовершенствованных для работы в автономном режиме. Но к 2019 году попытки Пентагона активно использовать наработки крупнейших технологических гигантов застопорились. Усилия по созданию единой облачной инфраструктуры для поддержки ИИ в военных операциях превратились в крайне сложный с политической точки зрения вопрос и были прекращены. Проект компании Google, в рамках которого планировалось использовать ИИ для анализа аэрофотоснимков, вызвал бурю общественной критики и протестов со стороны сотрудников. Когда в 2020 году ВМС США опубликовали свои планы по строительству новых кораблей – планы того, как американский флот будет развиваться в течение следующих трех десятилетий, – в нем подчеркивалась важность беспилотных систем, особенно больших надводных кораблей и подводных аппаратов, однако на их разработку и строительство было выделено крайне мало средств.

В крошечном кабинете в глубинах здания Пентагона бывший пилот ВМС по имени Майкл Стюарт (Michael Stewart) прекрасно знал о существовании этой проблемы. Стюарт, которому было поручено следить за разработкой новых боевых систем для американского флота, в какой-то момент начал ощущать, что ВМС напоминают ему блокбастер, вступающий в эпоху Netflix. Несколькими годами ранее, обучаясь в Гарвардской школе бизнеса, он посещал занятия, которые вел Клэй Кристенсен (Clay Christensen), исследовавший то, почему крупные и успешные предприятия терпят крах с появлением более мелких участников рынка: зачастую так происходит потому, что сосредоточенность на текущих бизнес-процессах заставляет их упускать из виду новые технологические тренды. По мнению Стюарта, вопрос для ВМФ заключался в том, как можно было ускорить внедрение робототехники и ИИ, не погрязнув в институциональной бюрократии.

В то время многие думали примерно так же. К примеру, в декабре того же года эксперты из финансируемого государством оборонного аналитического центра RAND опубликовали отчет, в котором предлагался альтернативный путь: вместо того чтобы тратить средства на разработку горстки чрезвычайно дорогостоящих автономных систем, почему бы не закупить большое количество более дешевых? Опираясь на результаты нескольких военных игр, в ходе которых было имитировано вторжение Китая на Тайвань, эксперты RAND отметили в своем отчете, что развертывание большого количества дешевых беспилотников может значительно повысить шансы Соединенных Штатов на победу. Сфотографировав каждое судно в Тайваньском проливе, гипотетические беспилотники, которые специалисты RAND назвали "котятами", позволят Соединенным Штатам быстро уничтожить весь вражеский флот. (Один китайский военный журнал обратил внимание на тот прогноз RAND и опубликовал материал, в котором речь шла о возможных последствиях развертывания "котят" в Тайваньском проливе.)

В начале 2021 года Стюарт вместе с группой своих коллег составили документ на 40 страницах под названием "Основы организации беспилотной кампании". В нем был изложен не слишком связный, нетрадиционный план того, как ВМС США могут использовать автономные системы – и как можно отказаться от обычных процедур закупок в пользу экспериментов с дешевыми роботизированными платформами. В реализации этого плана предлагалось задействовать небольшую команду, включающую специалистов по искусственному интеллекту и робототехнике, а также экспертов по военно-морской стратегии, которые могли бы работать сообща с целью быстрой быстрого воплощения идей в жизнь. "Речь идет не только о беспилотных системах, – поясняет Стюарт. – Это скорее история о том, как нужно все организовать".

План Стюарта привлек внимание вице-адмирала Брэда Купера (Brad Cooper) из Пятого флота, который отвечает за водную территорию площадью 2,5 миллиона квадратных миль, от Суэцкого канала вокруг Аравийского полуострова до Персидского залива. В этом районе огромное множество судоходных путей, которые жизненно важны для мировой торговли и где процветают незаконное рыболовство и контрабандистская деятельность. По словам Стюарта, после окончания войны в Персидском заливе, когда часть внимания и ресурсов Пентагона были перенаправлены на Азию, Купер искал способы достичь более весомых результатов с минимальными затратами. Иран усилил интенсивность своих атак на коммерческие суда, окружая их вооруженными скоростными катерами и даже нанося удары с помощью беспилотников и дистанционно управляемых лодок.

Купер попросил Стюарта присоединиться к нему и Брассеру в Бахрейне, и втроем они начали создавать Оперативную группу 59. Они изучили автономные системы, которые уже использовались в других регионах по всему миру, в том числе для сбора климатических данных и наблюдения за морскими нефтяными платформами. Они пришли к выводу, что аренда и усовершенствование этого оборудования обойдутся в несколько раз дешевле, чем ВМС обычно тратят на новые корабли. Затем Оперативная группа 59 воспользуется программным обеспечением на основе ИИ, чтобы собрать все кусочки воедино. "Если новые беспилотные системы смогут работать в этих сложных водах, то, как мы полагаем, их можно масштабировать и перенести на другие флоты ВМС США", – сказал мне Купер.

По мере создания этой новой оперативной группы, эти воды становились все более сложными. Рано утром 29 июля 2021 года нефтяной танкер под названием Mercer Street направлялся на север вдоль побережья Омана из Танзании в Объединенные Арабские Эмираты, когда на горизонте появились два черных V-образных беспилотника, которые стремительно пронеслись в чистом небе, после чего взорвались в море. Днем позже, после того как команда выловила часть обломков дронов из воды и сообщила об инциденте, третий такой беспилотник спикировал и взорвался на крыше кабины управления корабля – на этот раз сдетонировавшее взрывное устройство повредило корпус судна и убило двоих членов экипажа. Следователи пришли к выводу, что оба раза атаку осуществили "дроны-камикадзе" иранского производства.

Но основная угроза, по мнению Стюарта, исходит от Китая. "Моя цель – очень быстро, в течение не более пяти лет предложить дешевые или менее дорогостоящие системы, чтобы отправить сдерживающий сигнал Китаю", – объясняет он. По вполне понятным причинам Пекин сейчас вкладывает огромные средства в автономные военные системы. Согласно докладу, подготовленному Джорджтаунским университетов в 2021 году, Народно-освободительная армия ежегодно тратит на эти технологии более 1,6 миллиарда долларов – то есть примерно столько же, сколько тратят Соединенные Штаты. В докладе также говорится, что основное внимание китайский флот уделяет автономным судам, подобным тем, которые использует Оперативная группа 59. Китай уже разработал клон Sea Hunter наряду с большой безэкипажной плавучей базой.

Стюарт не замечал особого интереса к его работе, пока Россия не начала свою специальную военную операцию на Украине. "Мне стали звонить и спрашивать: “Помнишь те автономные штуки, о которых ты говорил? Расскажи мне о них поподробнее”". Подобно морякам и чиновникам, с которыми я встречался в Бахрейне, он не стал детально комментировать ситуацию – не стал говорить ни об атаке беспилотников в Севастополе, ни о пакете военной помощи в размере 800 миллионов долларов, который Соединенные Штаты отправили Украине прошлой весной и который включал неизвестное количество "беспилотных кораблей береговой обороны", ни об усилиях Украины по разработке полностью автономных дронов-убийц. Все, что Стюарт сказал, это: "Ось времени определенно смещается".

***

Я нахожусь в Сан-Диего, штат Калифорния, в главном порту Тихоокеанского флота США, где оборонные стартапы растут как грибы после дождя. Прямо передо мной, в высоком стеклянном здании, окруженном пальмами, находится штаб-квартира американской компании Shield AI, занимающаяся аэрокосмическими и оборонными технологиями. Стюарт предложил мне посетить компанию, поскольку она производит V-BAT – воздушный беспилотник, с которым Оперативная группа 59 экспериментирует в Персидском заливе. Несмотря на довольно странный внешний вид – дрон имеет форму перевернутой буквы "Т" с крыльями и одним пропеллером внизу, – это весьма впечатляющее устройство, маленькое и достаточно легкое, чтобы команда из двух человек могла запустить его практически из любого места. Однако меня больше всего интересовало то, что находится внутри этого дрона, а именно программное обеспечение V-BAT – своего рода ИИ-пилот по имени Hivemind ("коллективный разум").

Я прохожу через ярко-белые офисы компании, мимо инженеров, разбирающихся с деталями дронов и строками кода, в небольшой конференц-зал. Там на большом экране мне показывают, как три V-BAT отправляются выполнять задание в калифорнийской пустыне. Где-то поблизости бушует лесной пожар, и их задача –найти его. Дроны стартуют вертикально с земли, затем наклоняются вперед и начинают пикировать в разных направлениях. Через несколько минут один из дронов засекает пламя и передает информацию остальным. Они корректируют траекторию полета и приближаются к области пожара, чтобы собрать все данные о его масштабах.

В рамках этой симуляции дроны V-BAT не следуют прямым командам человека-оператора. Более того, они не следуют и командам, которые могли бы быть прописаны в обычном программном обеспечении, – жестким алгоритмам "если видите это, действуйте вот так". Вместо этого дроны в автономном режиме собирают данные, самостоятельно ориентируются в окружающей среде, планируют, как им выполнить миссию, и работают сообща в рамках своего "роя". Инженеры Shield AI тренируют Hivemind – частично с помощью методики обучения с подкреплением, – задействуя его в тысячах смоделированных миссий, постепенно побуждая его сосредотачиваться на наиболее эффективных способах выполнения поставленной задачи. "Эти системы способны думать и принимать решения", – говорит Брэндон Ценг (Brandon Tseng), бывший морской котик и один из основателей компании.

Эта конкретная версия Hivemind включает довольно простой подалгоритм, который может обнаруживать смоделированные лесные пожары. Разумеется, другие наборы подалгоритмов будут помогать рою беспилотников идентифицировать любые другие цели – транспортные средства, корабли и солдат. И применение системы Hivemind не ограничивается лишь дронами V-BAT. Hivemind также может управлять истребителями F-16, и она способна опережать большинство пилотов-людей, которые решаются бросить ей вызов на симуляторах. (Представители компании полагают, что ИИ Hivemind со временем сможет стать "вторым пилотом", которым будут оснащаться новые поколения боевых самолетов.) Hivemind также управляет квадрокоптером Nova 2, который настолько мал, что помешается в обычном рюкзаке, и который может исследовать и составлять планы внутренних помещений зданий и подземных комплексов.

Для Оперативной группы 59 – и любой другой военной организации, стремящейся перейти на технологии ИИ и робототехнику с относительно небольшими затратами, – привлекательность этих технологий очевидна. Они обеспечивают не только "повышенную визуальную доступность" на поле боя, как выразился Брассер, но и способность проецировать силу (а также, возможно, даже применять силу), задействуя при этом минимальное число людей. Вместо того, чтобы привлекать десятки операторов беспилотников для осуществления поисково-спасательных или разведывательных миссий, вы можете отправить на место группу дронов V-BAT или Nova 2. Вместо того, чтобы в условиях воздушной атаки рисковать жизнями пилотов, на обучение которых было потрачено очень много средств, вы можете отправить рой дешевых дронов – и все они будут управляться одним и тем же ИИ, являясь продолжением одного "коллективного разума".

Однако стоит помнить, что, какими бы поразительными ни были алгоритмы машинного обучения, по своей сути они непостижимы и, соответственно, непредсказуемы. Во время моего визита в штаб-квартиру компании Shield AI я сталкиваюсь с одним из дронов Nova 2. Он поднимается с пола и зависает на расстоянии примерно полуметра от моего лица. "Он проверяет вас", – объясняет мне один инженер. Мгновение спустя дрон взмывает вверх и пролетает через окошко в одной стене помещения. Этот опыт вызывает у меня странную тревогу. В одно мгновение этот маленький летающий разведчик сделал какие-то выводы обо мне. Но как? Хотя инженерам компании Shield AI, которые способны воспроизводить и анализировать элементы процесса принятия решений роботом, ответ, вероятно, кажется очевидным, компания все еще работает над тем, чтобы эта информация была доступной и для "неопытных пользователей".

Достаточно вспомнить гражданский мир, чтобы понять, что эти технологии могут устроить нешуточный беспорядок: системы распознавания лиц демонстрируют расовую и гендерную предвзятость, а беспилотные автомобили врезаются в объекты, видеть которые их пока не научили. Даже при условии глубокой проработки всех деталей военная система, основанная на технологии ИИ, может допускать сходные ошибки. Алгоритм, обученный распознавать вражеские грузовики, может спутать их с гражданским транспортом, а система противоракетной обороны, предназначенная для реагирования на входящие угрозы, может быть не в состоянии в полной мере "объяснить", почему она дала осечку.

Такие риски ставят перед нами новые этические вопросы, сравнимые с теми вопросами, которые возникают после аварий с участием беспилотных автомобилей. Если автономная военная система допустит ошибку, в результате которой погибнут люди, кто будет нести ответственность? Будет ли это командир, отвечающий за проведение операции, офицер, отвечающий за работу системы, инженер-компьютерщик, разработавший алгоритмы и создавший "разум улья", или же посредник, предоставивший данные для обучения машин?

Ясно одно: технологии стремительно развиваются. Когда я познакомился с Ценгом, он сказал, что задача Shield AI состоит в том, чтобы иметь "оперативную группу из трех дронов V-BAT в 2023 году, из шести V-BAT в 2024 году и из 12 V-BAT в 2025 году". Спустя восемь месяцев после нашей встречи компания Shield AI запустила с одной базы ВВС группу из трех V-BAT, которые должны были выполнить миссию по обнаружению лесного пожара. Кроме того, компания уже сейчас заявляет, что Hivemind можно научить выполнять самые разные задачи – включая поиски ракетных баз и обнаружение вражеских самолетов, – и что очень скоро эта система сможет работать даже в условиях ограниченной связи или даже ее полного отсутствия.

Перед тем как покинуть Сан-Диего, я совершаю экскурсию по авианосцу USS Midway, который был введен в эксплуатацию в конце Второй мировой войны, а теперь постоянно стоит пришвартованный в бухте. На протяжении нескольких десятилетий этот корабль размещал на своем борту одни из самых передовых военных технологий в мире, служил плавучей взлетно-посадочной полосой для сотен самолетов, выполнявших разведывательные и бомбардировочные миссии в различных конфликтах, от Вьетнама до Ирака. В самом центре авианосца находится ангарная палуба, похожая на пещеристый металлический желудок. Расположенные с одной стороны дверные проемы ведут в лабиринт коридоров и помещений, включая тесные матросские каюты, уютные спальни офицеров, кухни, лазареты, даже парикмахерскую и прачечную – все это служит напоминанием о том, что на авианосце могли одновременно находиться 4 тысяч матросов и офицеров.

Стоя там, я ощущаю, насколько фундаментальным и глубоким будет переход на автономные военные системы. Возможно, пройдет очень много времени, прежде чем безэкипажных судов станет больше, чем кораблей с людьми на борту, и еще больше времени, прежде чем автономные плавучие базы смогут править морями. Однако армада роботов Оперативной группы 59, пока еще не до конца испытанная, знаменует собой шаг в совершенно иной мир. Возможно, это будет более безопасный мир, где сеть автономных дронов, рассеянных по всей планете, будет помогать людям держать конфликты под контролем. Или же однажды небо над нашими головами потемнеет из-за роев атакующих беспилотников. Какое бы будущее ни лежало на горизонте, роботы плывут именно туда.