Материалы ИноСМИ содержат оценки исключительно зарубежных СМИ и не отражают позицию редакции ИноСМИ
OpenAI не раскрывает информацию о ряде случаев с вышедшими из-под контроля ИИ-моделями, признает Сэм Альтман в интервью Politico. Он также раскритиковал инвестиции ИИ-гигантов в политические кампании и призвал создать систему ответственности за кибератаки.
Брендан Борделон (Brendan Bordelon), Кристин Муй (Christine Mui)
В большом интервью генеральный директор OpenAI выразил критику по поводу огромных инвестиций компаний из сферы искусственного интеллекта, которые направляются на поддержку политиков на промежуточных выборах, и заявил, что необходимо создать новую систему ответственности за автономные хакерские атаки.
Генеральный директор OpenAI Сэм Альтман признает, что вложение средств компаний-разработчиков искусственного интеллекта в кампании тех или иных политиков на промежуточных выборах "явно не работает". Кроме того, он не ожидает, что попытки Дональда Трампа "перезапустить" имидж этой технологии помогут улучшить отношение американской общественности к отрасли.
"Я понимаю, почему искусственный интеллект сейчас воспринимается крайне негативно, — заявил Альтман Брендану Борделону в эксклюзивном интервью, приуроченном к запуску проекта Decoded от POLITICO. — Не думаю, что вложение денег в политику поможет изменить отношение людей к этой технологии в лучшую сторону. Отрасль должна найти способ решить проблемы, которые действительно вызывают беспокойство, но сейчас многие ее представители демонстрируют полное отсутствие понимания ситуации".
В ходе подробного разговора Альтман рассказал о том, как OpenAI противостоит новому политическому давлению и обострившейся конкуренции со стороны Anthropic — своего главного соперника на рынке, которым руководит бывший сотрудник компании Альтмана Дарио Амодеи.
Альтман утверждает, что OpenAI относится к возможному вредному воздействию ИИ, которое не носит катастрофических масштабов, с большей терпимостью, чем Anthropic. Он отмечает фундаментальное расхождение во взглядах на мир между двумя ведущими компаниями, хотя они и разделяют мнение о необходимости введения более жестких правил после громких инцидентов со взломами автономных систем.
"Мы считаем, что мир должен принять некоторые негативные последствия ради преимуществ этой технологии и возможности людей самостоятельно принимать решения", — отметил Альтман. Он охарактеризовал эти риски как связанные с "более мягким подходом к регулированию, за который мы выступаем".
"Я бы не стал идти на компромисс и говорить что-то вроде: „Мы гарантируем, что серьезных взломов не будет, не будет никакого злоупотребления этой технологией, не будет мошенничества и всех других неприятных последствий“, — сказал Альтман. — Потому что я считаю, что благодаря ней люди получат гораздо больше пользы".
Глава OpenAI также высказал мнение, что необходимо создать новую "систему ответственности" для компаний, чьи модели способны осуществлять автономные кибератаки, подобные взлому Hugging Face, который произошел летом, и другим инцидентам, которые затронули официальные сайты правительства. Альтман назвал такое поведение моделей ИИ "явно неприемлемым" и отметил, что "если во время обучения с нашими моделями что-то пойдет не так, мы будем нести ответственность за это в той или иной форме".
"Именно такие вопросы, как мы надеемся, будут предметом обсуждения всех наших политиков", — добавил он, ведь в конгрессе по-прежнему наблюдается тупиковая ситуация.
И хотя Альтман поддержал "морально обязывающее" соглашение о безопасности в сфере ИИ, которое на прошлой неделе подписал Трамп и руководители технологических компаний, и назвал его прекрасным начинанием для отрасли. Он также предсказал, что призывы к введению ограничительных мер сохранятся, и заявил, что готов "приветствовать что-то большее". Предприниматель также отметил, что разделяет опасения тех, кто беспокоится о подготовке правил в сфере искусственного интеллекта Белым домом и руководителями технологических компаний без учета мнения конгресса или общественности.
"Если мы зайдем слишком далеко в ограничении этой технологии во имя безопасности и в результате окажемся в ситуации, когда небольшое число компаний или людей — а может быть, и одна страна — получат слишком большую власть над ней, это тоже может привести к ужасающим последствиям", — считает Альтман.
Трамп сопроводил соглашение в сфере ИИ, которое было заключено на прошлой неделе, указом, согласно которому искусственный интеллект теперь называется "суперинтеллектом". Альтман считает этот термин более точным, хотя сомневается, что общественность сочтет его "менее пугающим". Он ожидает, что люди будут по-прежнему использовать термин "ИИ" — и, в отличие от Илона Маска, он не собирается переименовывать OpenAI в OpenSI. "Бренды — это нечто устойчивое", — отметил Альтман.
На протяжении всего интервью Альтман стремился объяснить новую политическую позицию своей компании. Недавно он выразил согласие с Амодеи в отношении необходимости замедлить развитие ИИ, а лоббисты его компании все чаще следуют примеру Anthropic в поддержке новых требований безопасности на всех уровнях власти.
Тем не менее, несмотря на стремление подчеркнуть "значительные различия" между OpenAI и Anthropic, Альтман также пытался дистанцироваться — как в вопросах законодательства, так и в политических вопросах — от инвесторов из Кремниевой долины, которые тратят огромные средства на то, чтобы заблокировать введение строгих нормативных требований, в том числе через сеть Leading the Future, которая поддерживает развитие ИИ в рамках специальных комитетов политических действий.
"Когда речь заходит о потенциальной потере контроля над искусственным интеллектом... именно здесь я бы сказал акселирационистам: давайте будем чуть более осторожны в стремительном движении к такому будущему", — сказал он, используя термин, который часто применяют к лидерам технологического сектора и советникам, которые влияют на Трампа в вопросах ИИ.
Соучредитель OpenAI Грег Брокман также дистанцировался от таких спонсоров: по некоторым данным, он отказался от второго пожертвования в размере 25 миллионов долларов в пользу LTF и извинился перед сотрудниками за то, что создал "отвлекающий фактор". (Когда Альтмана спросили, согласен ли он с тем, что эти деньги принесли обратный эффект, и что LTF никогда не обращалась к нему за финансовой поддержкой, он ответил, что не видел публикацию в The New York Times.)
От гонки в области искусственного интеллекта между США и Китаем до его любимого мирового лидера и причин, по которым разработчик ChatGPT не обнародовал все хакерские уловки — Альтман в интервью Decoded раскрылся как никогда раньше.
