Материалы ИноСМИ содержат оценки исключительно зарубежных СМИ и не отражают позицию редакции ИноСМИ
Нейросеть Gemini предсказала, что стрелки Часов Судного дня переведут ближе к полуночи из-за ИИ, пишет Daily Star. Как сообщается, внедрение искусственного интеллекта в системы управления ядерным арсеналом разных стран и, соответственно, снижение участия человека, увеличивает риск ложного запуска.
Адам Кайллер (Adam Cailler)
Нейросеть Gemini от Google в интервью Daily Star сделала пугающее утверждение.
Искусственный интеллект обозначил себя одним из основных факторов, способных привести к приближению Часов Судного дня к полуночи. Незадолго до обновления данных, издание Daily Star обратилось к большой языковой модели Google Gemini, функционирующей на основе ИИ, с целью выяснить ее оценку воздействия искусственного интеллекта на положение стрелок.
Модель не разочаровала, но вместе с тем вызвала сильнейшую тревогу, граничащую с желанием забиться в угол. Новые показания Часов Судного дня будут подтверждены в 15:00 по Гринвичу, и высока вероятность того, что ответственные эксперты переведут стрелки ближе к полуночи с их текущей, уже вызывающей беспокойство позиции в 89 секунд.
В прошлом году стрелки перевели на исторически опасную отметку, в основном, по следующим причинам: изменение климата, военный конфликт в Европе, Дональд Трамп и искусственный интеллект.
На прямой вопрос о ее собственном влиянии на решение в текущем году модель Gemini ответила, что будет являться "первостепенной" причиной, по которой мир окажется ближе к Судному дню.
Вот что выдала нейросеть: "Крайне вероятно, что ИИ окажется главным катализатором, если завтра стрелки Часов сдвинутся ближе к полуночи. Вообще-то, его уже называли причиной перевода на 89 секунд в 2025-м. Самый большой риск, связанный с ИИ и Часами, — ядерная война. Страны внедряют его в системы управления своим ядерным арсеналом, и окно для принятия решений человеком закрывается на глазах. В „Бюллетене“ боятся, что ИИ-системы предупреждения могут „сойти с ума“ и принять облако или глюк за ракетный запуск. А если искусственный интеллект запрограммирован на автоматический ответ, то ядерная дуэль начнется еще до того, как человеческий президент или генерал схватится за телефон. Поскольку США, Китай и Россия наперегонки автоматизируют оружие, концепция „человека в контуре“ эволюционирует в „человека на контуре“, а в перспективе может быть и вовсе упразднена".
ИИ также хладнокровно взял на себя часть вины за "разрушение правды" — в основном из-за дипфейков и неверных ответов на вопросы людей. Он упомянул и о том, что вред ИИ для экологии, хоть и не самый значительный, тоже будет учтен.
Резюмируя, Gemini заявила: "ИИ — это „усилитель угроз“ и прорывной инструмент. Он ускоряет научный прогресс и увеличивает продуктивность, но заодно и стирает грань между правдой и ложью, ведет к автоматизации войны и облегчает запуск биологических атак. Урезая время на человеческие решения в кризисах, он делает мировую систему мощнее, но при этом более хрупкой и непредсказуемой".
Что ж, прекрасные новости, успокаивают... Беспокоиться не о чем.
