Илона Маска беспокоит то, что правительства стран, в частности России, борющихся за лидерство в сфере искусственного интеллекта, могут спровоцировать третью мировую войну. Это шокирующее заявление прозвучало еще более шокирующе на фоне тех невысоких надежд, которые мир, похоже, испытывает в отношении России. О России сенатор США Джон Маккейн несколько лет назад пренебрежительно высказался как о «бензоколонке, притворяющейся страной».
Внимание Маска привлекли недавние высказывания российского президента Владимира Путина. Первого сентября, беседуя со школьниками об искусственном интеллекте, Путин заявил: «Тот, кто станет лидером в этой сфере, будет властелином мира». Свою реакцию на эти слова Маск выразил в Твиттере: «Начинается…».
China, Russia, soon all countries w strong computer science. Competition for AI superiority at national level most likely cause of WW3 imo.
— Elon Musk (@elonmusk) 4 сентября 2017 г.
Elon Musk
✔ @elonmusk
Replying to @elonmusk
Китай, Россия, вскоре все страны станут сильными благодаря высокому уровню развития компьютерных наук. Гонка за лидерство в сфере ИИ, скорее всего, приведет к третьей мировой войне, на мой взгляд.
00:33, 4 сентября 2017 года
На самом деле, в вопросах, касающихся ИИ, Россия ничего не «начинает». Просто ее успехи в этой области в какой-то мере остаются в тени: мы привыкли обсуждать ИИ в контексте достижений крупных компаний Кремниевой долины или ведущих американских университетов, и хотя русские там работают, главные имена там — не русские. Нет русских фамилий и среди ведущих теоретиков и инвесторов в этой области. В последнем списке «Авторитетов в области ИИ» (AI influencers), опубликованном компанией IBM, есть только один русскоязычный специалист — Роман Ямпольский из Луисвиллского университета. Он, как и Маск, опасается возможного «ИИ-апокалипсиса». Но родом он не из России, а из Латвии.
Россия слаба в коммерциализации и продвижении технических достижений. Работающее на основе ИИ приложение Prisma, которое буквально переделывает фотографии, делая их похожими на картины многих известных художников, в прошлом году произвело фурор в постсоветских странах и привлекло некоторый интерес в США, но глобальным явлением оно не стало. Другие российские стартапы, работающие в сфере ИИ, известны лишь специалистам. Крупные российские IT-компании, например, Яндекс и Mail.ru Group, вкладывают огромные средства в научные исследования в области искусственного интеллекта и создают продукты на базе нейронных сетей (поисковая система «Яндекс», которая в России более популярна, чем Google, работает на основе авторских нейронных технологий). Однако эти достижения остаются незаметными на фоне разработок более крупных западных конкурентов. Даже российские венчурные инвесторы, судя по всему, ищут возможности для сделок в области ИИ за пределами родной страны.
И, тем не менее, в России проводятся многие исследования в сфере искусственного интеллекта. Алексей Самсонович из Национального исследовательского ядерного университета «МИФИ» занимается созданием «интеллектуального агента, который будет обладать, в том числе, и эмоциональным интеллектом». И власти применяют технологию ИИ в проектах по созданию «электронного правительства» и в армии. Россия занимает четвертое место в мире после США, Китая и Индии (и опережает Великобританию), по количеству людей, которые используют Kaggle — краудсорсинговую платформу, приобретенную компанией Google в этом году и используемую большинством исследователей в области искусственного интеллекта.
Первый кредит для России, который одобрил Банк Развития БРИКС (международная финансовая организация, созданная совместно Бразилией, Россией, Индией, Китаем и Южной Африкой), предназначен для финансирований проекта, включающего в себя использование ИИ в российских судах с целью автоматизации протоколов судебных заседаний с использованием системы распознавания речи.
В последние месяцы в государственных СМИ выросло число сообщений о возможном военном применении искусственного интеллекта. Речь идет о системе на основе ИИ, которая будет помогать пилоту в управлении истребителем, о проекте по оснащению дронов системой ИИ, разработанном «Группой Кронштадт» из Санкт-Петербурга, об аналогичном проекте для ракет, разработанном АО «Корпорация Тактическое ракетное вооружение», а также о боевом модуле, работающем на базе нейронных сетей, созданном концерном «Калашников». Подробности работ в этих направлениях не разглашаются, и вполне возможно, что СМИ преувеличивают их значение в целях пропаганды. Но Россия, как известно, экспериментирует в ведении сетецентрических боевых действий — в том числе и во время сирийской военной операции — так что практическое применение ИИ является логичным шагом.
Вполне вероятно, что, как и в советские времена, военное применение искусственного интеллекта в России опережает его применение в потребительской сфере. При наличии гарантированного государственного финансирования разработчики не сталкиваются с таким количеством ограничений, как российские частные компании и вузовские ученые-исследователи, учитывая, что по своему характеру эти исследования и разработки связаны с Кремниевой долиной.
Маск прав, заявляя, что Китай — не единственный потенциальный конкурент США в области того искусственного интеллекта, который вскоре будет совершать гораздо более страшные и губительные действия, чем то, для чего мы используем систему Siri. Учитывая количество пользователей платформы Kaggle, и Индия тоже не должна слишком отставать. Призыв к глобальному запрету оружия, созданного на базе искусственного интеллекта, с которым в прошлом месяце Маск с группой исследователей ИИ обратились к ООН, является своевременным, но, видимо, неосуществимым. Выявить использование на первый взгляд обычного, но на самом деле независимо действующего оружия гораздо труднее. Поэтому обеспечить соблюдение запрета этого оружия сложнее, чем обеспечить соблюдение существующих запретов в отношении химического и биологического оружия, и даже чем соблюдение ограничений, которые были бы приняты в отношении различных видов кибервойн. Кроме того, такие страны, как Россия, Китай и Индия будут опасаться любых подобных регламентирующих мер, предпринятых на Западе.
Искусственный интеллект в качестве составной части оружия гораздо более опасен, чем в качестве возможной замены человеческого мозга в гражданских целях. Страны будут убивать, используя ИИ, гораздо раньше, чем развитие техники сможет вызвать массовую безработицу. В этом смысле к паническим настроениям Маска — и к словам Путина о мировом господстве на основе ИИ — следует относиться серьезно.
