Материалы ИноСМИ содержат оценки исключительно зарубежных СМИ и не отражают позицию редакции ИноСМИ
Главы крупнейших американских компаний, занимающихся искусственным интеллектом, заявили в Совете Безопасности ООН о необходимости глобального контроля над этой технологией, пишет The New York Times. Однако президент Трамп уже категорически отверг эту идею.
Дастин Волц (Dustin Volz), Фарназ Фассихи (Farnaz Fassihi)
Сэм Альтман из OpenAI и Дарио Амодеи из Anthropic заявили Совету Безопасности, что необходимо международное сотрудничество, чтобы искусственный интеллект не вышел из-под контроля человека.
Руководители ведущих американских ИИ-компаний заявили, что технология, к созданию которой они приложили руку, способна бросить обществу серьезный вызов. Мировым державам было сказано прямо: без международного сотрудничества ее дальнейшее развитие под контроль не взять.
Совет Безопасности ООН собрался на первое заседание по искусственному интеллекту в момент, когда в мире нарастает тревога по поводу возможного выхода этой новой технологии из-под контроля. Совбез не может прийти к единому мнению по вопросу, какие глобальные меры в отношении ИИ стоит вводить, если они вообще нужны. США и Китай в обстановке глубокого взаимного недоверия мало заинтересованы тормозить разработки.
На встрече, устроенной на полях заседания Совета Безопасности в рамках Генассамблеи, выступили Сэм Альтман из OpenAI и глава Anthropic Дарио Амодеи.
Выступая по отдельности, руководители ИИ-компаний заявили, что страхи насчет этой технологии отнюдь не беспочвенны. Они призвали государства немедленно заняться этим вопросом. Их мрачные оценки резко разошлись с речью президента Трампа в ООН днем ранее: он осудил "глобалистскую схему" контроля над ИИ и пообещал не тормозить эту технологию.
Альтман, прибывший лично и говоривший около 10 минут, заявил: разговор об искусственном интеллекте за последние недели заметно сместился — столь быстрый прогресс сделал "выгоды ощутимее, но и риски — ближе". Ровным голосом читая подготовленный текст, Альтман объявил, что у мира есть выбор. Можно использовать мощь ИИ ради "нового ренессанса творчества и открытий — или новой промышленной революции потрясений и хаоса".
Возвращаясь к вопросу о недавних бурных дебатах о том, грозит ли искусственный интеллект самому существованию человека, Альтман заметил: "Неважно, оценивают ли люди риск катастрофы в 10%, 1%, 12 % или 0,1%. Ни один из этих уровней даже близко неприемлем".
Амодеи, взявший слово после Альтмана, предостерег куда жестче: ИИ вот-вот станет угрозой для человечества. Он призвал мир замедлить темпы развития этой технологии.
Призыв Амодеи к ограничениям подхватили и Альтман, и глава SpaceXAI Илон Маск, и другие тяжеловесы отрасли. "Считаю, это важнейшая проблема глобальной безопасности, стоящая сегодня перед миром, — сказал Амодеи, выступая по видеосвязи. — А при скверном управлении искусственный интеллект, я убежден, способен стать риском для всего человечества". Он призвал Совбез начать с "узких соглашений" — включая запрет на применение ИИ для создания биологического оружия — и стандартов оценки и проверки его возможностей. Под конец он выступил за общие мировые стандарты тестирования моделей на риски утраты контроля и за систему оповещения о злоупотреблениях, "значимых для глобальной безопасности".
Альтман и Амодеи, чьи соперничающие компании обе идут к первичным размещениям акций (те, как ожидается, потянут на триллионы долларов), подчеркнули необходимость глобального сотрудничества с индустрией ИИ, чтобы технология оставалась безопасной.
Оба обещали обязать свои компании к целому набору гарантий, включая добровольное предоставление мощных новых моделей для проверки американским правительством до публичного выпуска. При этом они заявили: отрасли нужна поддержка демократических стран, чтобы выстроить более четкие правила на будущее. "Ни один лидер, ни одна компания, ни одна нация не справится с этим в одиночку", — сказал Амодеи. Альтман говорил о том же: "Если искусственному интеллекту суждено быть демократическим, важнейшие решения не могут приниматься лишь лабораториями в Сан-Франциско".
Разговор в ООН состоялся за считанные часы до прибытия в Вашингтон к Трампу с государственным визитом китайского лидера Си Цзиньпина. Ожидалось, что они, будучи руководителями мировых центров в сфере ИИ, обсудят развитие этой технологии наряду с рядом других вопросов.
При всем интересе последних недель к катастрофическим рискам, которые искусственный интеллект способен нести человечеству, ожидания крупного прорыва между двумя странами по этой теме остаются низкими.
Ни Альтман, ни Амодеи не обмолвились о Китае и не говорили прямо о противостоянии США с этой страной. Обе державы — постоянные члены СБ ООН с правом вето.
В этом году искусственный интеллект взмыл на вершину повестки Генеральной Ассамблеи ООН. Генеральный секретарь Антониу Гутерриш провел в понедельник конференцию о глобальном управлении ИИ и призвал страны-лидеры в этой технологии сообща выработать гарантии, "которые защитят всех нас".
ООН заявила, что для нее искусственный интеллект и потребность в надзоре столь же неотложны, как и другие глобальные проблемы, где она взяла на себя ведущую роль, — скажем, изменение климата.
Но в среду США объявили Совету, что выступают за диалог и дипломатию в вопросах, связанных с ИИ, и отвергают попытки его регулирования.
По словам Майкла Крациоса, главы Управления научно-технической политики Белого дома, Совбез не может надзирать за технологией, которую не понимает, и нельзя допустить, чтобы диалог "скатывался к наднациональному управлению". "Как сказал вчера перед Генеральной Ассамблеей президент Трамп, США наотрез отвергают любую попытку выстроить глобальную схему контроля над сверхинтеллектом", — сказал Крациос, употребив новый термин для ИИ, принятый Трампом на этой неделе.
Китай на заседании Совета заявил, что международному сообществу надо усерднее направлять искусственный интеллект в позитивное русло, но любые попытки его регулировать решительно отверг, отметив, что страны вправе развивать технологию согласно собственным нуждам.
Россия усомнилась, относится ли ИИ к юрисдикции Совета Безопасности, и заявила, что обсуждать его следует на форумах с соответствующей компетенцией.
Франция и Британия, два из пяти постоянных членов СБ ООН, ратовали за глобальный надзор. "Нельзя слагать с себя ответственность перед гражданами: первейший долг правительства — защищать людей, и на частные компании его не переложишь, о чем бы ни шла речь", — заявил Эдвард Милибэнд, глава британского МИД.
