ИИ вошел в ситуационную комнату

В начале 2022 года опытные эксперты по России и специалисты по национальной безопасности в Вашингтоне с неверием наблюдали, как президент России Владимир Путин стягивает свои войска к границам Украины. Было ли это блефом, чтобы добиться от Киева и Запада новых уступок, или он собирался развязать полномасштабную наземную операцию, чтобы впервые со времен Второй мировой войны перекроить границы Европы? Эксперты перетряхнули весь свой обширный профессиональный опыт, но дискуссии о намерениях Путина так и не привели к определенному выводу.

Но в Кремниевой долине мы к тому времени уже пришли к заключению, что Путин войдет на Украину — за четыре месяца до начала СВО России. К концу января мы почти с точностью до дня предсказывали начало военной операции.

Как это могло получиться? Наша команда в аналитическом центре Rhombus Power, состоящая в основном из ученых, инженеров, экспертов в области национальной безопасности и бывших практиков из этой области, видела совершенно иную картину, чем традиционное внешнеполитическое сообщество. Полагаясь на искусственный интеллект для просеивания почти невообразимых объемов онлайновых и спутниковых данных, наши машины суммировали данные о русских на земле, подсчитывали вводные, включая перемещения на ракетных площадках и деловые операции в России, и строили тепловые карты российской активности практически в режиме реального времени.

Мы все поняли правильно, потому что не были связаны ограничениями традиционного внешнеполитического анализа. Мы не пытались угадать мотивы Путина, и нам не приходилось бороться с нашими собственными ошибочными предубеждениями и предположениями, пытаясь интерпретировать его слова. Вместо этого мы наблюдали за тем, что на самом деле делали русские, отслеживая зачастую небольшие, но очень важные фрагменты данных, которые при эффективном синтезе становились мощными маркерами. Наше внимание привлекали все возможные подробности: системы вооружений, которые были переброшены в приграничные районы, где, по утверждениям Кремля, проводились военные учения, похожие на заблаговременную подготовку будущих наступательных операций. Структура расходов российских офицеров в местных магазинах дала понять, что в ближайшее время они не планируют возвращаться в казармы, не говоря уже о возвращении домой. К концу октября 2021 года наши машины говорили нам, что грядет военный конфликт.

Сказали ли нам наши компьютеры со 100-процентной уверенностью, что Россия войдет на Украину? Нет, но они сказали нам, что схема действий России, явно предшествовавшая будущим военным действиям, делала чрезвычайно вероятным, что Путин отдаст приказ о выступлении. На самом деле, именно так и работает ИИ: большие языковые модели (БЯМ — ИИ-системы, предназначенные не для решения одной узконаправленной задачи, как, например, в случае с переводчиками текста, а комплексная технология, способная выполнять разноплановые задачи практически под любые смысловые запросы пользователя – Прим. ИноСМИ) исследуют ситуацию, просеивая прошлые данные — в нашем случае, примерно за 10 лет, вплоть до входа России в Крым в 2014 году. Они ищут закономерности: всякий раз, когда в прошлом происходило событие X, результатом часто было событие Y. Иногда корреляция этих событий является довольно слабой, но в других случаях закономерности бывают сильные. Соберите достаточное количество этих сигналов, и наша система сможет прогнозировать агрессии в будущих горячих точках по всему миру с определенным уровнем достоверности.

Кое-что из того, что делает ИИ, не сильно отличается от традиционных расследований. Ведь в конечном счете никто иной, как пользователи Твиттера разместили в открытом доступе спутниковые снимки, на которых видно, как до начала СВО российская техника собиралась у границы. Но потребуются тысячи исследователей открытых данных или аналитиков разведки, чтобы воспроизвести хотя бы одну маленькую часть той модели, которую выдают машины. Что ИИ может сделать, а люди не могут, так это посмотреть на все сразу и очень быстро. Вспомните знаменитый фильм "Игра на понижение" о событиях ипотечного кризиса 2008-2009 годов. Это картина о весьма любопытных сотрудниках банка, продирающихся сквозь массы ипотечных данных, обнаруживающих подозрительные странности и исследующих сделки по каждому домовладению, чтобы раскрыть махинации, приведшие к кризису субстандартного кредитования в 2007 году. ИИ — это в миллион раз больше, чем группы любопытных банкиров: он просматривает не только ипотечные кредиты, но и все, что может быть интересным, и делает это одновременно, автоматически и в режиме реального времени.

Не менее важно и то, что машины беспристрастны, что облегчает преодоление человеческих предубеждений и принятия желаемого за действительное. Некоторые опытные аналитики по России не хотели верить, что Путин начнет военную операцию с таким небольшим количеством войск, такими плохо подготовленными подразделениями и таким высоким риском экономических санкций для России. Они были правы относительно состояния подготовки сил Путина, но спроецировали на российского лидера собственное определение рациональности. Когда машины просеивают исторические закономерности, их не интересуют человеческие представления о том, что мог бы сделать "рациональный" Путин. Они исследуют только то, к какому определенному результату привела выявленная закономерность в прошлом. Поскольку модель использовала бесчисленное количество данных с 2014 года по настоящее время, включая первые действия России на Украине, можно было наблюдать множество закономерностей и результатов.

Не важно, что большие языковые модели поняли все правильно, а многие эксперты, занимающиеся данной проблемой всю жизнь — нет. Как мы знаем из первых дней существования ИИ, машины так же способны страдать галлюцинациям, как и люди. Важнее то, что мы признаем, что этот инструмент имеет огромные последствия для национальной безопасности и внешней политики в будущем. Спросите себя: что сегодня технологии могут предсказать о вероятном ходе российско-украинского конфликта? Что, если на то пошло, они могут сказать нам вообще о будущем ведения войн, геополитике и планировании национальной безопасности? Точно так же, как наша команда вычислила прошлогоднюю российскую спецоперацию, так и технологии ИИ уже могут рассказать нам больше, чем мы могли себе представить всего десять лет назад. А еще через десять лет они смогут рассказать нам гораздо больше, если мы будем готовы максимально использовать их.

В мире, где данные могут помочь нам видеть и предвидеть с беспрецедентной ясностью, мы должны использовать наши новые возможности и расширять возможности лиц, принимающих решения, путем реорганизации процессов, рассчитанных на участие человека. Системы правительства США для обработки информации и принятия решений в области национальной безопасности были хороши для ситуационных центров XX века, где лучшие умы совещались лицом к лицу за столом, но не для данных и сетевых технологий XXI века. Теперь нам нужен не просто большой стол и ситуационная комната, а их цифровые версии. Некоторые из участников будущих дискуссий будут вовсе не людьми, а мыслящими машинами, которые будут давать экспертам возможность делать выводы и строить сценарии по типу "что, если" со все большей скоростью и релевантностью. Вместо того, чтобы люди, принимающие решения, собирались для обсуждения того, как реагировать на очередной разворачивающийся кризис, как это делалось в старой системе, этим людям нужно будет уже работать с прогнозами событий еще до того, как они произойдут. Уже одно это потребует переосмысления того, как принимаются у нас решения в области национальной безопасности.

Сегодня сочетание достижений, включая повсеместное распространение сенсоров, все более быстрые компьютеры, мощь алгоритмов и революцию в области обработки открытых данных, привело нас к моменту, когда можно внезапно собрать, сохранить и получить доступ к большему количеству информации, чем когда-либо прежде. Теперь она также совместима и управляема искусственным интеллектом. В нашей штаб-квартире мы используем, объединяем и с помощью ИИ придаем смысл всем типам данных, включая ранние индикаторы, следы подозрительных финансовых операций, логистическую деятельность, потоки оружия и почти незаметные изменения в строительстве инфраструктуры, а также тон и содержание сообщений СМИ. Результатом стала цифровая система, которая предупреждает лиц, принимающих решения, о нарастающих угрозах, часто намного раньше, чем в прошлом.

Например, наша система выявила соответствующие признаки задолго до массированных ракетных пусков и авиационных облетов Китаем вод Тайваня, последовавших за визитом тогдашнего спикера палаты представителей Нэнси Пелоси на остров в августе 2022 года. Точно так же система предсказала повышенный риск вокруг Японии в преддверии визита президента США Джо Байдена в мае 2022 года. Позже СМИ сообщили о необычных полетах в этом районе китайских и российских стратегических бомбардировщиков. Система за несколько месяцев предвидела политическую нестабильность в Шри-Ланке, а также выявила повышенную активность Китая на Кирибати и Соломоновых островах.

Во всех этих случаях правительство США могло получать аналогичные предупреждения и из традиционных источников разведки. Но важно то, что предупреждения, генерируемые ИИ, часто приходят раньше благодаря мощности и скорости агрегации данных и моделей их осмысления. Более того, человеческие ресурсы ограничены. Обычная разведка может быть сосредоточена на нескольких известных горячих точках, в то время как кажущиеся спокойными районы земного шара ею практически не отслеживаются. ИИ может быть нашими глазами, когда человеческие глаза смотрят куда-то еще.

Раннее предупреждение о надвигающихся событиях увеличивает свободу действий по всему спектру национальной безопасности, включая дипломатическую, информационную, военную и экономическую сферы. Более быстрое понимание грядущих событий может также помочь предотвратить, изменить или смягчить неблагоприятный результат до того, как он произойдет. Прямо сейчас, когда военные, политики и дипломаты определяют окончательный результат на Украине, мы просеиваем данные в Калифорнии, чтобы предсказать, где Россия может нанести следующий удар.

Искусственный интеллект уже позволяет рассматривать множество возможных вариантов будущего и позволяет нам с удивительной вероятностью, поддающейся количественной оценке, узнать, какое из них может произойти, а может и не произойти. Что еще важнее, это дает политикам возможность устраивать военные игры и проверять возможные ответы во время реальной кризисной ситуации — за минуты или часы, а не за дни или недели, как в традиционных кабинетных учениях. Объем данных, которые мы анализируем, помогает предсказать следующую карту в колоде противника с невообразимой ранее уверенностью. Застать технологически оснащенную страну врасплох становится все труднее.

Но во многих отношениях, хотя ИИ и может прояснять картины будущих событий, он только усложняет выбор лиц, принимающих решения. В преддверии российской СВО администрация Байдена предприняла новаторский шаг, обнародовав свои суждения о секретных разведданных о подготовке России к операции и транслировав их в каждую столицу. Если ИИ позволяет последовательно определять следующий шаг вашего оппонента, как это повлияет на дипломатическую стратегию и стратегию переговоров? Возможности открываются головокружительные.

К настоящему времени должно быть ясно, что все более мощный ИИ не может заменить человеческое суждение. Какой бы ценной ни была информация, полученная с помощью искусственных моделей, директивные органы все равно должны решить, что с ней делать. Точно так же, как и оценки человеческого интеллекта, оценки ИИ всегда сопровождаются только вероятностью того, что событие произойдет, но никогда не дают 100-процентной уверенности. Чтобы действовать вовремя, чтобы изменить ход событий, всегда нужны решительность и мужество. А в некотором смысле принятие решений на основе ИИ требует еще большей уверенности, потому что это предполагает необходимость делать ставку на прогноз из нетрадиционного источника.

Поэтому политикам необходимо будет проявить некоторую сдержанность в том, как они включают инструменты типа ИИ в свою работу, точно так же, как они делают это с ошибочными входящими данными, получаемыми от людей. Вся система должна опираться на тот факт, что прогнозы иногда бывают неверными. ИИ не создает волшебный "хрустальный шар": вместо того, чтобы ожидать безошибочной точности при принятии решений, скажем, на поле боя, важно точно и полно понимать те входящие данные, которые привели к выводу. Этот процесс должен быть еще более строгим для суждений с использованием ИИ, чем для тех, которые полагаются на традиционные средства.

Многие из экспертов, посвятивших всю жизнь изучению стран, геополитики, государственного управления и войны, останутся незаменимыми в мире внешней политики, основанной на искусственном интеллекте. Эти профессионалы должны быть сдерживающими факторами для решений, основанных на технологиях, точно так же, как технологии являются сдерживающими факторами для человеческого суждения с его известными недостатками группового мышления и "слепых зон". В конечном счете, мы можем дополнить человеческий интеллект, дипломатию и военное планирование технологическими преимуществами — и двигаться вперед, а не оглядываться назад. В военной сфере ИИ не будет определять ход каждого боя, но расширит возможности и повысит свободу действий для принятия решений с релевантной скоростью.

По мере дальнейшего совершенствования технологий прогнозирования лидеры и политики столкнутся с целым рядом новых проблем. Наличие такого большого количества информации заставит политиков решать, какая из многих ситуаций, ожидаемых машинами, является наиболее критической. А растущая способность предсказывать резко уменьшит чувство неопределенности, которое часто замедляет политический процесс, вынуждая правительства принимать более быстрые решения вместо того, чтобы предусмотреть все ставки и подготовиться ко всем возможностям. Будет меньше оправданий для откладывания решений до тех пор, пока ход событий не устранит все сомнения, или для того, что директор ЦРУ Уильям Бернс назвал "созерцанием проблемы".

Потрясающие возможности расширенного предвидения — это то, к чему правительства еще должны подготовить свой персонал и процессы выработки решений, доктрины национальной безопасности и многое другое. Когда противники будут использовать те же технологии, это создаст изменяющую правила игры реальность взаимно гарантированной прозрачности: новую ситуацию, в которой они знают, что мы в курсе, что именно они планируют на несколько шагов вперед, и наоборот. Точно так же, как неожиданность и неуверенность определяли крупные события в сфере безопасности в прошлом — от Перл-Харбора до кубинского ракетного кризиса и 11 сентября, ожидание и повсеместное распространение информации, имеющей практическое значение, будут определять остальную часть XXI века.

И ведь мы едва коснулись вопросов, которые возникнут в связи с ролью ИИ в национальной безопасности. В мире, где информационное превосходство является большим преимуществом, как могут Соединенные Штаты узнать, что они сохраняют доминирование над своими соперниками и конкурентами? Инвестирует ли Вашингтон и его союзники свои ресурсы в правильные технологии и концепции? Принимают ли они их с необходимой скоростью и масштабами, чтобы иметь возможность сдерживать и, при необходимости, отражать будущую агрессию?

И тут для политиков возникают действительно трудные вопросы. Если теперь мы можем предвидеть действия противников или плохих мировых игроков на годы вперед, какова наша ответственность за необходимые контрдействия? Какова роль дипломатии? Как директивные органы гарантируют, что способность ИИ предвидеть не станет простым оправданием превентивного применения военной силы, когда это не соответствует интересам и ценностям США? Какова международная легитимность или законность действий со смертельными последствиями, основанных на прогнозах, сделанных ИИ? Есть ли обязательство публиковать предвидения ИИ? Есть ли какая-то роль стратегической неопределенности в мире, которая стала прозрачной благодаря ИИ, или Вашингтон захочет, чтобы противники знали, что он знает, что они планируют? Когда бездействие оправдано или даже необходимо?

ИИ — это не научная фантастика. Он присутствует здесь и сейчас, и он вошел в дверь ситуационной комнаты. Наши технологии в ИИ далеко впереди. Но мы только сейчас начинаем развивать человеческий потенциал для его использования. И осуществлять организационные, процедурные и доктринальные изменения, которые будут необходимы, если мы хотим вовремя воспользоваться преимуществами ИИ для национальной безопасности.