Материалы ИноСМИ содержат оценки исключительно зарубежных СМИ и не отражают позицию редакции ИноСМИ
Anthropic подготовила законопроект по регулированию ИИ, пишет Politico. Компания предлагает радикально сузить полномочия государства: властям разрешат блокировать релиз моделей только через суд и лишь при угрозе ущерба на миллиард долларов или гибели десятков людей.
Оуэн Далкамп (Owen Dahlkamp)
Авторы законопроекта предлагают сузить перечень ситуаций, когда государство вправе блокировать выпуск передовых ИИ-моделей. Кроме того, благодаря документу можно будет обойти некоторые законы штатов о безопасности нейросетей.
Представители ИТ-гиганта Anthropic без лишней огласки предложили конгрессменам свой проект регулирования сферы ИИ. Об этом сообщили три информированных источника, пожелавших остаться анонимными.
Конфиденциальный черновик документа оказался в распоряжении издания POLITICO и публикуется впервые. Так разработчик передовых систем ИИ пытается напрямую повлиять на правила игры в индустрии, пока Конгресс только решает, как реагировать на стремительный взлет технологии.
"В этом законопроекте мы собрали предложения из нашей концепции AdvancedAI Framework. Мы продвигаем их на федеральном уровне и в законодательных органах штатов еще с июня, — заявил официальный представитель Anthropic. — Конгрессу стоит принять эти разумные меры".
Согласно проекту, власти смогут заблокировать запуск или использование нейросети лишь при угрозе очевидного и неизбежного ущерба. Речь идет о финансовых потерях на сумму свыше одного миллиарда долларов либо о риске гибели или тяжелого ранения более чем 50 человек. При этом опасность должна исходить от создания или применения биологического оружия, кибератак или же ситуации, когда модель выйдет из-под контроля разработчиков. Эти формулировки полностью повторяют положения калифорнийского законодательства об ИИ, включая закон штата о прозрачности передовых ИИ-систем (SB 53), подписанный в прошлом году.
Прошлым летом ведущие ИИ-лаборатории сообщили о целой серии инцидентов, когда ИИ-агенты взламывали или тестировали на уязвимость сайты и платформы. Однако ни один из известных случаев не привел к массовым жертвам или убыткам на миллиарды.
Руководство Anthropic пока публично не поддержало конкретные законопроекты в Конгрессе США. Зато компания одобрила несколько местных инициатив, включая два закона в Калифорнии. Как ранее заявил изданию POLITICO директор Anthropic по связям с властями штатов, в компании рассчитывают, что регионы продолжат ужесточать правила безопасности ИИ и тем самым зададут новый стандарт для всей страны.
Авторы законопроекта предлагают обязать ИИ-лаборатории проходить регулярный аудит. Проводить его будут независимые эксперты, прошедшие регистрацию в Министерстве торговли США. Разработчики смогут сами оплачивать эти услуги, но только при условии, что размер вознаграждения никак не зависит от результатов проверки.
Если аудиторы обнаружат прямую угрозу из утвержденного перечня, им придется направить отчет в Минторг в течение 72 часов после завершения оценки.
Минторг, зафиксировав риски, сможет потребовать от суда запретить выпуск конкретной модели. При этом текст документа прямо запрещает любым другим американским министерствам, ведомствам или чиновникам приостанавливать разработку, внедрение или внутреннее использование ИИ-систем. Выносить подобные решения о блокировке сможет исключительно федеральный судья Окружного суда округа Колумбия.
Прошлым летом американские власти ввели масштабный экспортный контроль, из-за которого Anthropic лишилась возможности поставлять две свои самые продвинутые модели. Решение об ограничениях чиновники Белого дома и руководство компании согласовали в ходе серии экстренных телефонных переговоров. Эта ситуация вызвала серьезную обеспокоенность среди участников ИТ-рынка: они опасаются, что доступ к технологиям теперь зависит исключительно от воли отдельных госслужащих.
Кроме того, законопроект Anthropic нейтрализует ряд локальных нормативных актов, которые обязывают ИИ-лаборатории раскрывать риски, проходить стороннюю оценку и отчитываться о серьезных инцидентах. Проблема приоритета федерального законодательства над законами штатов стала точкой политического раскола на Капитолийском холме. Законодатели-демократы отвергают эти инициативы, так как видят в них угрозу для регуляторных правил, ранее утвержденных властями таких штатов, как Калифорния, Иллинойс и Нью-Йорк.
Представители ИТ-индустрии возражают: соблюдать разрозненную массу законов в каждом отдельном регионе гораздо сложнее, чем ориентироваться на единый национальный стандарт.
Новый документ также обяжет ведущие лаборатории внедрить внутренние правила безопасности, открыто публиковать отчеты о работе флагманских моделей, защищать осведомителей и сообщать Минторгу о критических сбоях.
За последние месяцы американские законодатели выдвинули сразу несколько инициатив по регулированию ИИ. В Палате представителей Лори Трейхан и Джей Обернолте разработали законопроект FRONTIERAct, в котором они предлагают наделить правительство правом блокировать запуск опасных нейросетей и отменять локальные нормативные акты штатов.
В Сенате лидер большинства Джон Тьюн вместе с Эми Клобушар и Тедом Крузом согласовывают свой проект, чтобы минимизировать риски глобальных катастроф. Однако инициатива столкнулась с сопротивлением со стороны некоторых правозащитных групп и сенатора Марии Кэнтвелл. Оппоненты требуют, чтобы государство жестче контролировало проверку ИИ-моделей.
Другие прогрессивные политики, включая конгрессмена Грега Касара и сенатора Берни Сандерса, пошли еще дальше. Они призывают коллег полностью заморозить разработку продвинутых нейросетей и законодательно запретить суперинтеллект — гипотетический тип ИИ, возможности которого далеко превосходят человеческий разум.
