Материалы ИноСМИ содержат оценки исключительно зарубежных СМИ и не отражают позицию редакции ИноСМИ
Грамотное регулирование ИИ приведет к сдерживанию лидеров индустрии и даст фору небольшим стартапам, написал глава Anthropic Дарио Амодей в Х. По его мнению, доверие общества к нейросетям не получится вернуть с помощью маркетинга: для этого индустрии необходимо выполнять данные обществу обещания.
Дарио Амодей в X:
Спасибо, Гэвин, за такой глубокий обмен мнениями. Обычно я уделяю не так много времени социальным сетям, но в этот раз захотел поучаствовать в дискуссии, поскольку она действительно важна.
Во-первых, о регулировании. Я считаю, что "либо сконцентрировать власть в руках избранных компаний и политиков посредством регулирования, либо широко распределить ее" — это ложный выбор. Я знаю, что в Кремниевой долине существует своего рода упрощенная формула, согласно которой регулирование = захват регулятора = концентрация власти, но мне всегда казалось, что это чрезмерно простое представление о мире. Многие люди за пределами этого "пузыря" считают регулирование чем-то, что ограничивает корпоративную власть и приносит пользу простым людям. Я не совсем согласен и с этой точкой зрения; мне кажется, что все гораздо сложнее и на самом деле зависит от того, в чем именно заключается это "регулирование". Но, в частности, я считаю, что те, кто придерживается рамки "регулирование = захват регулятора = концентрация власти", часто недооценивают децентрализующую силу объективных и справедливых институциональных процессов. Грубая аналогия: формальная судебная система иногда может казаться зажатой и элитарной, но она гораздо лучше защищает права уязвимых людей, чем альтернатива, которой является самосуд. В лучшем случае институты могут передавать власть идеям, а не людям, и тем самым децентрализовать эту власть.
Именно поэтому компания Anthropic всегда очень тщательно подходила к разработке предложений по политике. Мы прилагаем все усилия, чтобы наши предложения ставили в невыгодное положение (замедляли развитие) передовые компании в сфере ИИ, одновременно *предоставляя преимущества* более мелким конкурентам. Калифорнийский законопроект SB53 (который мы поддержали) и даже столь критикуемый законопроект SB 1047 (к которому мы относились неоднозначно) полностью освобождают от действия закона любые компании, у которых выручка или затраты на обучение моделей не превышают определенный порог (для SB 53 этот порог составлял 500 миллионов долларов, для 1047 — был ниже, но мы выступили против этого). С недавних времен процесс тестирования, за который мы выступали в CAISI и Белом доме, предусматривает более строгие испытания для передовых моделей, чем для моделей, которые не относятся к передовым — что дает преимущество именно претендентам. Аналогичным образом, письмо "Шагая по фронтиру" предполагает (или, по крайней мере, описывает предпочтительный вариант его реализации, предложенный Anthropic) регулирование темпов развития самых лучших моделей, не ограничивая при этом тех, кто находится в позиции догоняющих. Это вредит коммерческим интересам передовых лабораторий и помогает претендентам, в том числе проектам с открытыми весами!
В целом я считаю, что ИИ *структурно* представляет собой технологию, которая может приводить к концентрации власти, по причинам, которые не имеют ничего общего с регулированием (а скорее связаны с радикальными последствиями законов масштабирования). Модели с открытыми весами в некоторой степени помогают решить эту проблему, но их далеко не достаточно, поскольку они просто несколько смещают концентрацию власти в сторону тех, кто располагает наибольшими вычислительными ресурсами и чипами (а это, в основном, передовые лаборатории и, пожалуй, поставщики оборудования). Напротив, я считаю, что корректные "правила игры" могут одновременно (а) устранять кибер-, биологические и риски несоответствия целей ИИ, (б) институционально ограничивать власть передовых компаний в сфере ИИ и (в) оставлять место для моделей с открытыми весами, одновременно устраняя специфические риски, которые они несут.
Кстати, я не считаю, что события последних нескольких месяцев "не привели к предпочтительному [с моей точки зрения] пути регулирования". Подход, который, как сообщается, принимает администрация Трампа — тестирование передовых моделей до их внедрения, а также тестирование моделей с открытыми весами, когда они приближаются к передовому уровню, — это именно тот подход, который я всячески поддерживаю, хотя, конечно, я бы хотел рассмотреть этот аспект подробнее, чтобы быть уверенным. Я также поддерживаю идеи Демиса Хассабиса о создании организации, подобной FINRA. Это явный контраст с той ситуацией, которая наблюдалась шесть месяцев назад, когда большая часть отрасли все еще настаивала на отмене всех государственных норм регулирования, при этом не было и какого-либо явного федерального подхода.
Во-вторых, о моих высказываний по поводу искусственного интеллекта. Я не согласен с тем, что они были излишне негативными. На самом деле я примерно в равной степени говорил и о рисках, и о преимуществах: я написал по одной большой статье на каждую из этих тем, и даже в интервью, где я обсуждаю риски, я стараюсь часто упоминать невероятные преимущества, а также предлагать возможные решения для устранения рисков (в коротких фрагментах из моих интервью, которые попадают в социальные сети, как правило, речь идет о негативных аспектах, так как они привлекают наибольшее внимание). На самом же деле я написал работу "Машины благодати и любви", потому что мне казалось, что индустрия ИИ не рисует достаточно вдохновляющую картину того, как эта технология может радикально изменить мир к лучшему. Большая часть эссе посвящена опровержению скептицизма в отношении потенциала ИИ в области здравоохранения и биологии, а также тому, чтобы показать, почему я считаю, что примерно через 5—10 лет действительно появится возможность вылечить большинство болезней, как бы безумно это ни звучало для обычных людей и, честно говоря, для биологов (я сам когда-то был одним из них!). Кроме того, если вы прочитаете мою последнюю статью ("Политика в отношении экспоненциального роста ИИ"), то обнаружите, что я рассматриваю конкретные предложения по оптимизации процедур FDA, чтобы поток лекарств, разработанных с помощью ИИ, не сдерживали регуляторные процедуры. Я ощущаю всю остроту этой проблемы: мой отец умер из-за гепатита С всего за несколько лет до появления антивирусных препаратов прямого действия (софосбувира), которые излечивают 95% пациентов и, вероятно, излечили бы и его.
Я понимаю, когда общественность негативно относится к ИИ (и что это серьезная проблема), но не считаю, что именно я или какой-либо другой лидер в отрасли повлияли на это. Мне кажется, что в основе лежит кризис доверия. Обычные люди не доверяют компаниям, правительствам или технологической индустрии и всегда подозревают, что мы изобретаем какой-то новый способ их обмануть. Причины уходят корнями в прошлые десятилетия, а ИИ — лишь последнее проявление этой проблемы. Я не считаю, что яркая маркетинговая кампания с положительным уклоном (которую некоторые рекомендуют провести компании Anthropic) — это способ вернуть доверие. Сегодня заявления о том, что ИИ вылечит рак, воспринимаются, скорее, как клише, чем как источник вдохновения, и большинство людей не верят в них. То, что действительно сработает, — это *реальное излечение рака*. Я считаю, что, безусловно, самая точная критика в адрес компаний в области искусственного интеллекта, в том числе Anthropic, заключается в том, что мы пока не выполнили наши громкие обещания принести пользу миру. Это полностью наша вина, и я думаю, что именно такую критику мы должны слышать от вас, а не все эти разговоры о коммуникации и маркетинге.
Однако мы делаем все возможное, чтобы исправить ситуацию: Anthropic очень быстро наращивает усилия в области биологии и медицины, и мы надеемся добиться невероятных результатов в ближайшие годы, а первые обнадеживающие признаки появятся уже в ближайшие месяцы. Когда мы действительно достигнем чего-то существенного, об этом узнает весь мир, даю вам слово. Но до тех пор я не хочу давать пустых обещаний, и пока что я чувствую, что обязан честно говорить о вполне реальных рисках ИИ и о том, как с ними бороться. Честность — это правильный подход с точки зрения сути дела, а с точки зрения общественного доверия и авторитета она ничем не хуже, а, возможно, даже лучше подхода, который игнорирует риски или отвлекает от них внимание, хотя люди инстинктивно понимают, что эти риски реальны.
