Материалы ИноСМИ содержат оценки исключительно зарубежных СМИ и не отражают позицию редакции ИноСМИ
Ведущие ИТ-компании отрабатывают сценарии на случай масштабной атаки с использованием искусственного интеллекта, пишет Axios. Лидеры индустрии исходят из того, что подобный инцидент может произойти уже в ближайший год.
Мария Кури (Maria Curi)
Руководители Anthropic, OpenAI и других ИИ-компаний в частном порядке обсуждают, как общество и государство могут отреагировать на катастрофический инцидент, связанный с деятельностью искусственного интеллекта.
Почему это важно. Они ожидают масштабного события, скорее всего, кибератаку, которая приведет к потере доступа к финансовым услугам, интернету или даже системам электро- и водоснабжения.
Первый серьезный инцидент, повлекший реальный ущерб из-за действий искусственного интеллекта, может усилить и без того настороженное отношение общества к этой технологии, а также к руководителям ИИ-компаний. В частности, к главе Anthropic Дарио Амодеи и генеральному директору OpenAI Сэму Альтману. Критика может затронуть и президента США Дональда Трампа, которого упрекают в нежелании регулировать отрасль.
Уровень угрозы. Сценарное планирование — это обычная практика, которая применяется как в бизнесе, так и в сфере национальной безопасности. Например, Пентагон уже десятилетиями проводит военные учения. Однако в случае с искусственным интеллектом ситуация иная: многие ведущие исследователи и лидеры отрасли считают, что крупный инцидент практически неизбежен.
"OpenAI проводит учения по подготовке к возможным кризисным ситуациям, в ходе которых команды обсуждают и отрабатывают различные сценарии, — заявил представитель компании. — Мы не считаем, что эти события неизбежно произойдут. Цель таких учений состоит в том, чтобы подготовиться к самым разным вариантам развития событий".
В Anthropic от комментариев отказались.
Подробности. Поиски виноватых начнутся в любом случае, и неважно, вырвется ли рой вышедших из-под контроля агентов за пределы изолированной тестовой среды или же злоумышленники найдут непредвиденные способы применения уже доступных моделей.
Недавняя атака на южнокорейские финансовые организации — включая взлом систем двух банков — демонстрирует, какой ущерб может нанести всего один человек.
Предположительно, хакер из КНР использовал инструменты на базе китайских ИИ-моделей (в том числе DeepSeek), чтобы похитить данные десятков тысяч клиентов банка. По информации компании CrowdStrike, специализирующейся на кибербезопасности, злоумышленник также воспользовался инструментом Claude Code, чтобы найти площадки для продажи украденных данных.
Эксперты, разрабатывающие сценарии развития ИИ, считают, что после успеха на промежуточных выборах демократы попытаются как можно быстрее ограничить развитие технологии, но сделать это будет непросто.
Многие члены Конгресса из-за преклонного возраста и недостаточного понимания стремительных изменений в сфере искусственного интеллекта могут не вполне адекватно оценивать происходящее.
Сегодня мировая экономика во многом зависит от развития ИИ-инфраструктуры, поэтому замедление этого процесса может нанести ей серьезный ущерб.
В свободном доступе находится слишком много моделей с открытыми параметрами, которые любой желающий может скачать и применить в злонамеренных целях. По мнению большинства экспертов по кибербезопасности, у этой проблемы есть только одно решение: использовать сам ИИ для борьбы со зловредным искусственным интеллектом.
Между строк. Планирование включает отработку самых неблагоприятных сценариев. В первую очередь оно направлено на то, чтобы как можно быстрее ознакомить членов Конгресса с возможными рисками.
Руководители компаний понимают, что законопроекты об ограничении искусственного интеллекта вряд ли будут приняты в ближайшее время. Однако они хотят заранее повлиять на решения властей США на случай первого серьезного инцидента.
На что стоит обратить внимание. Многие представители ИИ-индустрии ожидают, что первый подобный случай может произойти в течение 6-12 месяцев.
В компаниях считают, что даже если демократы получат большинство и в Сенате, и в Палате представителей, они не смогут выработать единую политику в отношении искусственного интеллекта даже внутри самой партии.
Среди самых жестких предложений демократов — запрет на создание так называемого искусственного сверхразума и приостановка разработки передовых ИИ-систем.
Другие инициативы пользуются поддержкой политиков от обеих партий, а также представителей самой индустрии. Например, предлагается обязать разработчиков оснащать передовые ИИ-системы механизмом экстренного отключения. Однако эксперты сомневаются, что на практике можно будет затронуть все системы ИИ.
Итог. В случае возникновения реального кризиса партийные разногласия могут отойти на второй план. Один из консультантов Демпартии в Конгрессе напомнил, что это уже случалось во время пандемии COVID-19 и финансового кризиса 2008 года.
