Вы можете купить в онлайне книгу генерала сэра Ричарда Ширрефа (Richard Shirreff) «Война с Россией» (War with Russia) за три фунта и 19 пенсов. И я уверен, что вы еще успеете приобрести со скидкой произведение двух знатоков военного дела «2020: Мир войны» (2020 World of War). Уже больше десяти лет этот период называют тем моментом, когда гудящая от напряжения международная обстановка достигнет вагнеровской кульминации. Но вместо того, чтобы стать жертвами валькирий войны, мы попались на зубок вирусу сovid-19 и остались дома.
Однако есть шанс, что 2021 год станет именно тем моментом, когда наш мир превратится в мир войны. Искусственный интеллект влияет на расчеты военных и меняет характер рисков. В 2018 году группа стратегов из Китая, России, США и Британии собралась в Лондоне, чтобы поиграть в настольную военную игру и оценить воздействие искусственного интеллекта на ядерную стабильность. Исходная посылка: в июне 2021 года мировые столицы услышали сообщения СМИ о том, что наш мир неуклонно движется к ядерной войне.
Социальные сети показали видео, в котором русские военные советники убивают троих американских спецназовцев нервно-паралитическим газом. Скорые на расправу конгрессмены настаивают на ответном применении тактического ядерного оружия. Спутниковые фотографии показывают в онлайне точное местоположение трех китайских подводных лодок в Южно-Китайском море. Пекин предполагает, что эти снимки, снятые с применением новых технологий, которые делают океаны прозрачными. И, хуже того, Пекин решает, что Вашингтон опубликовал эти снимки специально в качестве скрытой угрозы. Китайцы и без того нервничали, потому что на нескольких АЭС у них сработал ложный сигнал тревоги, из-за чего станции были закрыты, а сети остались без электричества. Таким образом три враждующие между собой ядерные державы почти одновременно оказались в опасности и решили, что надо срочно готовиться к войне.
Конечно, этого кризиса не было (ведь сейчас на дворе только февраль), но искусственный интеллект повлиял на него на всех уровнях. Система управления ядерными силами основана на алгоритмах машинного обучения. Искусственный интеллект собирает и обрабатывает информацию, а также предупреждает принимающих решения руководителей о потенциальных очагах напряженности. Это сила добра, если она дает политикам больше времени для анализа угроз. Но все может пойти иначе, если данные сфальсифицированы, если искусственный интеллект, оценивая сфабрикованные видео, вдруг говорит о неминуемом нападении.
Во время игры, организованной Международным институтом стратегических исследований, рабочая гипотеза состояла в том, что российская военная разведка ГРУ имеет возможность на раннем этапе внедрить поддельные данные в алгоритмы американской армии, которые приводятся в действие искусственным интеллектом. Смысл в том, чтобы американские системы с искусственным интеллектом не признали Россию в качестве агрессора в будущих конфликтах.
Американские разведслужбы уверены, что это происходит на самом деле и что в этом активное участие принимает Китай. Такой вывод они сделали из попыток России и Китая вербовать поставщиков таких услуг и людей, занимающихся обработкой данных, то есть тех, кто может обеспечить тайный доступ к американским программам обучения искусственного интеллекта. Попросту говоря, началась гонка вооружений в сфере искусственного интеллекта. Идет сосредоточение сил: хакеры, шпионы, распорядители в социальных сетях, информационные воины, аналитики данных, математики, разработчики моделей и легионы прочих специалистов, считающих гибридный конфликт своим новым полем боя. Когда в 2007 году появился первый айфон, он преобразил масштабы государственной слежки. Тогда казалось, что будущее за интернетом вещей, что машины будут говорить с машинами. Но затем стало ясно, что войну придется вести по-другому.
Как говорит Макс Хайнемейер (Max Heinemeyer), искусственный интеллект в корне изменил наши взгляды на уязвимость организаций и государств. Он работает в фирме кибербезопасности Darktrace, которая использует искусственный интеллект. Эта компания изучает самых разных клиентов, в том числе военный истэблишмент, органы здравоохранения и страховщиков, стремясь понять их «иммунную систему». «Используя искусственный интеллект, мы создаем картину того, что соответствует нормально функционирующей организации. Так врачи осматривают своих пациентов. Мы прослеживаем закономерности, а затем выявляем отклонения от нормы, дабы понять, что происходит», — сказал мне Хайнемейер.
Раньше он был белым хакером, которые взламывают системы компаний и информируют их о имеющихся уязвимостях. Теперь у него довольно крутая должность в Darktrace — директор по охоте за глобальными угрозами. В этой работе его привлекают уязвимости важнейших элементов инфраструктуры и взаимосвязанность нашего мира. «Умные телевизоры, умные холодильники, — называет он порталы для проникновения в чужую цифровую жизнь. — Даже умные термометры». Он мог бы добавить кошачьи дверцы, где используется технология распознавания лиц (морд).
Военное планирование адаптируется соответствующим образом. Дело не только во всепроникающей энергии Пекина и в сетях 5G, которые он разрабатывает. Киберспециалист из «Нью-Йорк таймс» Николь Перлрот (Nicole Perlroth) в своей новой книге описывает придуманный ею день хаоса в Америке, когда каждое враждебное государство использует свои возможности на всю катушку. Северокорейцы управляют светофорами, Иран управляет больницами, а русские устраивают бунты через соцсети. Представляете? Тот факт, что Владимир Путин предпочитает работать подальше от Кремля, не имеет никакого отношения к сovid-19 и к его страху пред болезнью. Это больше связано с тем, что он знает о риске кибервторжения.
Безусловно, Дональд Трамп нарушал все эти правила, беспечно пользуясь своим телефоном, совершая подрывные действия в Твиттере и понижая советников по кибербезопасности. Его преемник возвращает на должности тех самых искушенных в киберделах помощников, которые требовали, чтобы он избавился от своего подключенного к интернету велотренажера. Если этому тренажеру суждено попасть в Белый дом, то ему придется лишиться камеры и микрофона.
Искусственный интеллект — это важный инструмент для предсказания беды. Однако он не только защищает нас, но и подвергает нас опасности. Вот так мы и живем. Балансируя на туго натянутом канате.