Владимир Путин видит большие возможности в технологиях будущего, но ведущие ученые забили тревогу:
«Это наиболее вероятная причина третьей мировой войны», — утверждает один из самых влиятельных людей мира.
«Искусственный интеллект — это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы… Тот, кто станет лидером в этой сфере, будет властелином мира».
Такие слова Владимир Путин недавно произнес, согласно RT, во время беседы с российскими студентами. Это одно из нескольких высказываний Путина об искусственном интеллекте (ИИ), который, как он считает, в будущем сможет вести войны сам:
«Войны могут заканчиваться, когда беспилотники одной стороны будут уничтожены беспилотниками другой стороны, тогда у первой просто не будет другого выбора, кроме как сдаться».
Впечатляющие успехи
Компьютеры с годами все лучше осваивают то, что обычно называют «человеческими качествами», например, распознавание картинок. Это связано в том числе с тем, что так называемые нейронные сети стали гораздо более сложными, чем 20 лет назад, а также с тем, что сейчас есть широкий доступ к данным:
«В некоторых областях сделаны впечатляющие успехи, например, компьютеры теперь могут распознавать картинки или переводить устную речь в текст. Имеется весьма впечатляющий прогресс, основанный на том, что принято называть „глубинное обучение“ (deep learning): сейчас просто есть программное обеспечение, которое эффективно использует очень большие объемы данных, чтобы „самостоятельно обучаться“», — говорит Стефан Карлссон (Stefan Carlsson), профессор информационных технологий в Королевском технологическом институте.
«Предположительно, его можно использовать во всех областях, где нужно принимать решения. Если у вас достаточно данных, вы можете натаскать ИИ так, чтобы он, к примеру, делал экономические предсказания», — продолжает он.
Маск предостерегает о третьей мировой войне
Но далеко не все смотрят на ИИ как на нечто исключительно позитивное. Основатели 116 предприятий, которые работают в сфере искусственного интеллекта и робототехники, недавно написали открытое письмо в ООН, где призвали запретить так называемое автономное оружие — оружие, которое действует более или менее самостоятельно благодаря искусственному интеллекту. Среди подписавших письмо был основатель Tesla и SpaceX Илон Маск (Elon Musk), известный сейчас как наиболее инициативный и успешный предприниматель США.
«Китай и Россия скоро будут странами с очень сильными информационными технологиями. Борьба за превосходство в сфере ИИ на национальном уровне — наиболее вероятная причина третьей мировой войны, по моему мнению», — написал Илон Маск в понедельник в Twitter.
«Она (третья мировая война), возможно, начнется не по инициативе мировых лидеров, а потому, что ИИ решит, что превентивный удар — наиболее вероятный путь к победе», — продолжил Маск.
Автономная война опасна
То есть, все пойдет приблизительно по сценарию «Терминатора», где роботы-убийцы захватили мировое господство и сеют хаос и смерть.
Владимир Путин, похоже, тоже осознает эту проблему — по крайней мере, так это выглядит. Он заявил RT, что Россия разрешит другим нациям перенять часть технологий, которые ученые страны разработают в будущем:
«Если мы будем лидерами в этой сфере, мы так же будем делиться этими технологиями со всем миром, как сегодня делимся атомными технологиями, ядерными технологиями», — сказал Путин.
Но насколько действительно потенциально опасен ИИ в военных сферах применения? Стефан Карлссон из Королевского технологического института хочет умерить опасения:
«Автономное оружие — не новость. Например, крылатые ракеты, в принципе, автономны, но они предназначены для того, чтобы выполнять задание, полученное от главнокомандующего. Военные уже долго борются с этой проблемой и всегда подходили к этому вопросу с осторожностью. В истребителях, например, всегда есть пилот, который принимает решения. Люди давно осознали этот риск».
«Разрешить оружию принимать собственные решения — какие цели выбирать и так далее — потенциально возможно в будущем. Тогда мы окажемся в преддверии автономной войны, и именно этого опасаются Маск и остальные», — продолжает Стефан Карлссон.
Карлссон: «Не думаю, что человек настолько глуп»
Но так далеко дело не зайдет, считает он:
«Все эти худшие сценарии основываются на том, что человек должен оказаться достаточно глупым, чтобы позволить роботам принимать решения самостоятельно, я не думаю, что это произойдет».
Aftonbladet: Прав ли Путин? Будет ли страна, которая станет лидером в области ИИ, «властелином мира»?
Стефан Карлссон: Не думаю, что будет какой-то конкретный лидер. Это знание будет достаточно общим. Не думаю, что дело дойдет до мирового господства только из-за того, что какая-то одна страна заполучит исключительно для себя особые знания в сфере ИИ.
Искусственный интеллект
Мы используем ИИ множеством способов в будничной жизни. Во всем — от управляемого голосом помощника Siri в iPhone до различных видеоигр — разнообразными способами используется искусственный интеллект.
Выражение «искусственный интеллект» было придумано в 1956 году американским компьютерным специалистом Джоном Маккарти (John McCarthy, 1927-2011). Его определение гласило, что это «наука и техника по созданию умных машин».
