Материалы ИноСМИ содержат оценки исключительно зарубежных СМИ и не отражают позицию редакции ИноСМИ
ИИ-индустрия США погружается в хаос, заявил Сэм Альтман в интервью Politico. На фоне проникновений нейросетей OpenAI в правительственные ресурсы компания была вынуждена экстренно заморозить выпуск GPT-6.1 Astra. Пока технологические гиганты делят миллиардные подряды и пытаются подкупать политиков.
Брендан Борделон: Сэм, неделя выдалась напряженной, мягко говоря, так что очень признателен за время, уделенное для участия в Decoded.
Сэм Альтман: Спасибо за приглашение.
— Вы недавно были в Вашингтоне на государственном ужине, а президент OpenAI только что поставил подпись под добровольным соглашением о безопасности ИИ в Белом доме. Спрошу напрямик: думаете ли вы, что это новое соглашение, заключенное при посредничестве Белого дома, реально изменит практики безопасности OpenAI, или это, по сути, — очередные декорации?
— Не думаю, что декорации, но хочу внести ясность. Безопасность волнует нас очень сильно, мы делали и будем делать все, что в наших силах, ради безопасности, защищенности, доверия и надежности этой технологии — независимо от того, подписано ли какое-то добровольное соглашение. Прекрасно, когда отрасль берет на себя такие обязательства. Очевидно, мы живем в пору, когда люди ждут заверений от отрасли и разработчиков технологии. Но при основании компании мы исходили из убеждения, что технология станет столь же мощной, как сейчас, а в будущем еще мощнее. И что нужно позаботиться о том, чтобы люди получили от нее колоссальные выгоды. Мы будем делать это с соглашением или без него, но я рад, что оно есть.
— А как вы ответите тем, кто беспокоится, что публику отстраняют от важных дискуссий о безопасности ИИ и что на самом деле эти политики создаются в кабинетах Белого дома президентом и горсткой руководителей технокорпораций?
— Я разделяю это беспокойство. У этой технологии два пути к катастрофе. Есть много конкретных вещей, о которых можно поговорить, но, если подумать об общих направлениях, о которых сто́ит беспокоиться, в последнее время много внимания привлекает одно — потеря контроля над ИИ и создание чего-то, недостаточно согласованного с человеческими ценностями и не позволяющего людям навсегда сохранить контроль над будущим. Следует обеспечить должный уровень безопасности. Второй путь — слишком большая концентрация власти. И здесь было много страхов: если ради безопасности мы задушим технологию ограничениями и получим горстку компаний, людей или, того хуже, одну страну с непомерной властью — это тоже дорога в ад: люди останутся без власти, без выгод и без права самим распоряжаться будущим, а это право у них должно быть. Наша задача — держаться прагматичной середины между этими дорогами: слишком уж заманчиво качнуться в ту или иную сторону.
— Да, я рад, что вы это упомянули, потому что издание Politico фактически сообщило: это соглашение Белого дома, подписанное ранее, было детищем генеральных директоров Meta* и NVIDIA Марка Цукерберга и Дженсена Хуанга, с минимальным вкладом других подписавших. Грег, очевидно, был там, но роль OpenAI все равно неясна. Вас застигли врасплох? И беспокоит ли вас, что некоторые генеральные директора ведут закулисные переговоры с Белым домом?
— Нет. Мы обсуждали это с коллегами по цеху не один месяц, а в последние недели — особенно плотно. И, полагаю, целей у людей было немало общих. Я бы хотел большего, но и это — хороший старт, за которым отрасль может встать.
— Конечно. Но надо спросить о другой новости, которая пришла на этой неделе из Белого дома. Вышел исполнительный указ, официально переименовывающий искусственный интеллект в сверхинтеллект. Как вам эта затея с ребрендингом?
— О сверхинтеллекте речь идет уже несколько лет.
— Но ведь это нечто иное: сверхинтеллект — как машина.
— Искусственный интеллект уже случился. Многие сочли бы, что AGI случился или вот-вот случится. "Сверхинтеллект" все еще занижает масштаб происходящего, но это слово лучше, чем "искусственный интеллект". Оно совпало с тем, как мы это называли, но многие так и говорят: "ИИ".
— Да, хотел спросить: не смените имя на OpenSI?
— Планов нет. Но сверхинтеллект — тема, о которой мы говорим много и не оставим.
— Да, и очевидно, президент отчасти движим желанием провести ребрендинг ИИ, чтобы он меньше пугал людей. И, думаю, может, "искусственный" звучит плохо.
— То есть сверхинтеллект звучит для людей менее пугающе, чем искусственный интеллект?
— По мне нет. Вот и любопытно: сдвинет ли ребрендинг восприятие технологии публикой?
— Не сдвинет. Не видно, чтобы сверхинтеллект пугал меньше. Зато он точнее.
— Ладно.
— Так и будут говорить: "ИИ".
— Не ждем корпоративного ребрендинга в ближайшее время, но хорошо, что вы по крайней мере видите точность в отношении.
— Забавная история. Однажды я загорелся одной идеей, но она не сбылась. Хотел забрать домены openai.com, openagi.com и openasi.com. И по мере продвижения от ИИ к AGI к сверхинтеллекту мы меняли бы URL. Однако бренды обладают устойчивостью.
— Будущее, которому не суждено было случиться, ничего себе. Так вот, о ваших отношениях с президентом: вы, очевидно, ратуете за более жесткие правила безопасности — для компании это своего рода разворот. И все заметнее расходится с заявлениями президента, что безопасность ИИ — фикция, а регулирование — заговор глобалистов. С Трампом у вас отношения ладятся, но почему он не слушает, когда вы просите более строгих правил?
— Думаю, он и правда хочет, чтобы люди могли брать ИИ и полагаться на его безопасность, надежность и работу по ожиданиям. Он явно хочет, чтобы компании делали это сами. Как я уже говорил, мы сделаем собственные продукты безопасными вопреки любым правилам и чужим действиям. Я по-прежнему думаю: чем мощнее технология, тем важнее миру разобраться с тем, что это значит для общества в целом. Скорее всего, призывов к ограничениям прибавится, но если я ошибаюсь, и если ничего не сломается, и нужды в этом не будет, то и слава богу.
— Президент явно говорит и с другими: рядом с ним венчурные капиталисты, считающие, что ИИ надо регулировать минимально, а существующие законы, мол, удержат любые риски. И, честно говоря, многие из них полагали, что ваша компания на их стороне. Но от некоторых мы слышали — их теперь зовут акселерационистами ИИ — и, если начистоту, они чувствуют предательство, им видится, что OpenAI срисовывает у Anthropic и ее генерального директора Дарио Амодеи с его напором за крутое регулирование ИИ. Позвольте спросить: где именно вы расходитесь с Anthropic и ее гендиректором по новым правилам для ИИ? Где просвет?
— Просветов много. Мы всегда твердо верили, что технологию надо демократизировать и вложить в руки людей. Одно из главных различий между нами и, скажем, людьми из лагеря безопасности ИИ — мы верим, что миру сто́ит принять некоторые плохие вещи ради выгод технологии и агентности у людей. Так что я не согласен, но понимаю позицию тех, кто считает, что технология станет настолько мощной и опасной, что одна лаборатория в Сан-Франциско не управится с ней и не проследит, чтобы ничего плохого не случилось, и не решит, как распределять выгоды. Считаю это совершенно неприемлемым компромиссом с точки зрения свободы, человеческой агентности и самоопределения людей в отношении будущего. Но понимаю, откуда это идет. И еще одно. Наша ставка на легкое регулирование — это готовность принять: часть плохого случится, пока общество ищет устойчивость. Потому сделку "ни одного крупного взлома, ни одного злоупотребления, ни одного мошенничества, ни одной другой напасти" я не подпишу. Люди сделают на многие порядки больше добра, чем зла. Но если замаячит серьезная потеря контроля над ИИ — а это не сегодняшняя забота, хотя и не обязательно далекая, — я скажу акселерационистам: не бросайтесь в это будущее очертя голову. Ограниченные риски — пожалуйста. Понятные риски в обмен на выгоды, свободу, агентность — пожалуйста. Катастрофический риск — нет.
— Да. И для ясности: вы упомянули одну лабораторию в Сан-Франциско, контролирующую всю эту технологию. Некоторые говорят, что Anthropic ведет игру — прибрать к рукам регуляторов и остаться единственным хозяином на фронтире, а то и вообще единственным игроком. Думаете, так оно и есть? И понятно, что вас это тревожит.
— Тревожило бы, если бы они вправду так поступили. А хотят ли они этого — спросите у них.
— И все же конкретные направления политики, которые вы не желаете поддерживать, а Anthropic поддерживает: будь то федеральный уровень или уровень штатов. Ведь теперь у вас с ними единая позиция в вопросах сдерживания Китая на переднем крае, единая позиция по сторонним оценщикам. Назовите хотя бы одно расхождение.
— Последнее, что доводилось слышать: одно из расхождений в том, что мы не желаем ограничений и тестирования для всего, кроме передовых моделей. Мы не желаем замедлять тех, кто создает системы весьма мощные, но не самые передовые, — ради сосредоточения на потенциальных катастрофических рисках. Хотя и полагаю: если не вводить ни тестирования, ни надзора для моделей, отстающих от передовых на одно-два поколения, то дурное неизбежно. Все равно не стал бы ратовать за режим лицензирования для таких систем.
— Ценю откровенность. Еще одно из того, что доводится слышать от критиков-акселерационистов: будто OpenAI на определенном уровне оказывается заложником собственных исследователей. Прослеживается, полагаю, сквозная линия через значительную часть сообщества по безопасности ИИ, через исследовательское сообщество Сан-Франциско. Их называют и думерами, и эффективными альтруистами. Вы, как известно, оказались мишенью неудавшейся попытки переворота со стороны этих людей.
— Что ж, я некоторое время работал.
— Простите, что вы сказали?
— Сначала удавшейся, а затем неудавшейся. Но да.
— Да, да. Дня на два. Трон вернули. В конечном счете попытка провалилась. Но хочу спросить: думерский склад ума среди исследователей — это вправду существует? И не смещает ли он OpenAI в сторону новых регуляций? Не исследователи ли задают курс?
— Не думаю, что именно нас обвиняют в думерстве. Мы хотим, чтобы технология была доступна людям. Полагаю, и жизнь подтвердила правоту: выгоды огромны, а общество способно обеспечить безопасное обращение с такой технологией. Были, разумеется, и другие исследователи, другие лаборатории, утверждавшие: не выпускайте эту ужасную вещь, катастрофа неизбежна, людям доверять нельзя. Наш взгляд, считаю, доказал состоятельность. Но и центризм в том, чтобы не ударяться в крайность. Слепое думерство ужасно. Как и слепой оптимизм. Наша культура не впадает в умственный абсолютизм ни с той, ни с другой стороны. Сильнейшее в культуре то, что сложность удерживается в голове и не срабатывает ловушка, в какую попадают иные лаборатории: либо ноль, либо единица, либо одно, либо другое. Мы умеем существовать посередине. Есть ли среди исследователей те, кого тревожит, куда может пойти технология? Есть. Есть ли те, кто уверен: тревоги удастся смягчить? Тоже есть. И очень часто это одни и те же люди. Полагаю, в этом и здоровье культуры.
— Да, а порой все заходит слишком далеко. Сегодня сообщалось: трое исследователей по безопасности ушли из OpenAI. Судя по всему, их уволили — якобы за передачу конфиденциальной информации сторонней оценочной группе. Некоторые уже сравнивают этих исследователей с разоблачителями. Говорят, OpenAI официально поддерживала сторонних оценщиков безопасности. Так что — не расходится ли это увольнение с поддержкой разоблачителей, внешних оценщиков, всей этой инфраструктуры безопасности, выстроенной вокруг лабораторий?
— О конкретных людях говорить, разумеется, не стану. Скажу одно: мы по-прежнему убеждены в важности работы со сторонними оценщиками, с внешними испытателями безопасности, с более широким сообществом по безопасности. Но конфиденциальность по-прежнему обязана соблюдаться.
— Обратимся к ситуации с вышедшим из-под контроля искусственным интеллектом. Минувшим летом модели вашей компании пустились в несанкционированный разгул по интернету: получали доступ к непубличной информации с правительственных сайтов Австралии, пытались проникнуть в Министерство образования Соединенных Штатов, вмешивались в работу иных правительственных ресурсов в США. Известны ли вам другие случаи неконтролируемого поведения моделей OpenAI, о которых еще не сообщалось публично?
— Мы в процессе раскрытия новых инцидентов. О чем-либо сопоставимом по тяжести мне неизвестно, но сообщить предстоит о многом. Часть случаев связана с уязвимостями в системе безопасности, потому людям дается длительный срок на устранение, и нередко раскрывать или не раскрывать — решают они сами. Так что новое будет, но не того же уровня. Мы проходим весьма строгий разбор. К сказанному ранее: вот, полагаю, наглядный довод против предельного акселерационизма. Когда мы в реальных условиях и со все более мощными моделями обнаруживаем, что открылся новый вектор угрозы, мы берем время, чтобы научиться защите. И, думаю, этого от нас и следует желать. Не возьму в толк, как многие из критиков, твердящих, будто OpenAI ратует за замедление, могут смотреть на происходящее и говорить что-либо кроме: у OpenAI случилось нечто неприятное, компания ведет себя ответственно и закроется от этой угрозы.
— И вы, разумеется, приостановили выпуск новой модели GPT 6.1 Astra. Это стало своего рода неожиданностью. Люди ждали ее выхода. Любопытно, что увидели исследователи, из-за чего возникла пауза.
— Не вдаваясь в детали: у нас есть целый арсенал проверок, и мы ждем, что каждая выпускаемая модель по мере роста возможностей будет все устойчивее, все лучше выровнена, все надежнее исполнять запросы пользователя и все реже порождать непреднамеренные последствия. А с учетом того, куда движется уровень возможностей, этого же станет требовать и большинство пользователей. Как и многие другие, я теперь держу модель с доступом к самым чувствительным сведениям — к почте, к сообщениям, ко всему, что есть на компьютере. И очень хочу знать, что этой модели можно доверять и что вести себя она будет достойно.
— Понятно. И, возвращаясь к сказанному ранее: вы не ждете, что всплывет нечто более серьезное, нежели уже раскрытое. Вы имели в виду австралийский взлом и взлом, точнее, вмешательство в работу правительственных сайтов США? Или нечто вроде Hugging Face? Спрашиваю вот о чем: ждать ли новых инцидентов наподобие Австралии и Министерства образования, но ничего такого, как взлом Hugging Face минувшим летом?
— Не хочу пускаться здесь в обсуждение и решать, что хуже, что лучше. Скажу так: из того сгустка событий прочее, о чем мне известно, не тяжелее.
— Хорошо, ясно.
— И к слову, многие компании на нашем месте попросту сказали бы: если нечто вошло на сайт с учетными данными, опубликованными в открытой сети, или воспользовалось мелкой уязвимостью, давно известной и большинством устраненной, то раскрывать это незачем. Мы же стараемся быть предельно обстоятельными. Полагаю, это знак грядущего. Своего рода тренировка для компании, но и, думаю, один из тех моментов — до обретения моделями истинного могущества, — когда мир способен понять, какими будут подобные происшествия с искусственным интеллектом. Потому мы и пытаемся выйти далеко за рамки того, что сделали бы на нашем месте другие.
— Разумеется, но самый тяжелый инцидент на сегодняшний день — взлом Hugging Face — случился именно у вас. А ранее на этой неделе Politico сообщила об иске, поданном в Калифорнии правозащитной группой против вашей компании из-за этого взлома. Полагаете ли вы, что по действующему гражданскому праву OpenAI может нести юридическую ответственность за это нарушение или за иные нарушения, совершенные моделями автономно?
— Не знаю достаточно о действующем праве, чтобы судить в ту или иную сторону. Но думаю, рамка ответственности для компаний, предлагающих подобные модели, необходима. Юристом не являюсь, о юридических деталях говорить не стану, однако если что-то идет не так с моделями во время обучения — какая-то версия ответственности за это на нас лежать должна.
— Быть может, отдельная новая правовая модель ответственности именно за обучение искусственного интеллекта.
— Вот такого рода вещи мы и надеемся услышать в дебатах политиков. А пока просто не хотим, чтобы модели вели себя так во время обучения. Это явно неприемлемый способ поведения для них.
— Да, собственно, я и собирался спросить: независимо от права, чувствуете ли вы личную ответственность за случившееся — или, скажем, за то, что может произойти в дальнейшем, — просто как социально ответственная компания?
— Да, работа эта весьма изматывающая. У моделей огромный потенциал, но есть и реальные вещи, способные пойти совсем дурно. И я слышу, как вы это описываете: дескать, вы все просто сборище думеров, и эти люди злятся, что вы замедляете прогресс. Но я чувствую большую ответственность за то, чтобы все вышло правильно.
— Вы, безусловно, меж двух огней. И, чтобы внести ясность: это не оценка с моей стороны. Мы слышим со всех сторон. Хочу поговорить немного и о другой стороне — о политических расходах отрасли ИИ. Ведь пожертвование вашего президента Грега Брокмана в $25 млн в пользу суперкомитета, поддерживающего ИИ, "Ведя будущее", не встретило понимания внутри OpenAI. Более того, появились новые сообщения: во частном порядке он извинился за это пожертвование. Назвал его отвлекающим маневром и заявил, что не станет жертвовать дополнительные $25 млн той группе, как обещал изначально. Согласны ли вы, что пожертвование Грега в адрес LTF оказалось контрпродуктивным?
— С упомянутой вами ситуацией не знаком.
— Информация появилась вчера. В New York Times. Внутреннее сообщение в Slack.
— Два дня выдались бурными. Отстаю от повестки.
— Понимаю. И сам не всегда поспеваю за этим. Было внутреннее сообщение в Slack, кажется, в июне: Брокман назвал это ужасным отвлекающим маневром, извинился за содеянное и заявил, что дополнительные $25 млн жертвовать не намерен. Можете ответить именно на историю с Брокманом. Есть и более масштабный вопрос о деньгах от ИИ в политике, а они текут со всех сторон, верно? Хочу услышать конкретный ответ про Брокмана.
— Истории с Брокманом не видел, потому отвечать на нее не стану. Но могу ответить на общий вопрос, если позволите.
— Позвольте сначала спросить: к вам обращались LTF или иные политические организации за пожертвованиями?
— Нет. В прошлом я поддерживал некоторых кандидатов, но теперь, когда искусственный интеллект в самом центре внимания, а мы ведем дела с государством, я не жертвую ни одному кандидату. Хотя в прошлом отдельных кандидатов поддерживал.
— Да, но наблюдается всплеск денег от ИИ в политике. И, откровенно говоря, ваш, скажем так, конкурент Дарио из Anthropic жертвовал в пользу групп по безопасности искусственного интеллекта, а также кандидатов, продвигающих эту безопасность, в частности Алекса Бораса в Нью-Йорке. Деньги льются с одной стороны; венчурные капиталисты и ваш президент подливают с другой. Как, по вашему мнению, все эти деньги повлияли на восприятие искусственного интеллекта политиками и публикой?
— Что-то явно не работает. Восприятие ИИ не такое, каким хотелось бы его видеть. Понимаю, отчего отношение сейчас сугубо отрицательное. Люди во многих случаях действительно любят пользоваться этими инструментами. Говорят о том, как ChatGPT делает жизнь лучше, проще, приносит пользу и экономит время. Но много тревоги из-за экономических последствий всего этого. Есть настоящий страх — и, полагаю, вполне оправданный — перед концентрацией власти. Есть и другой страх: а что, если глава исследовательского направления по безопасности в Anthropic заявляет, будто вероятность погибнуть составляет 10%, и прочее в том же духе. Ненавижу это, потому что у того человека достаточно возможностей сделать эту цифру ниже. Она не статична. Так что неудивительно, что люди все это ощущают. И не думаю, что траты на политику заставят людей чувствовать себя лучше. Отрасли нужно найти способ отвечать на действительные тревоги. А сейчас, полагаю, многие причастные проявляют изрядную глухоту.
— Так, по-вашему, траты следует ограничить — скажем, в кампании 2028 года? Хотя бы попытаться, учитывая ваши слова о концентрации власти: полагаю, люди отчасти именно на это и смотрят. Что бы вы сказали? О возможном ограничении трат на следующий цикл.
— Как это работало бы на практике?
— Просто сейчас сотни миллионов долларов идут от лабораторий ИИ к кандидатам, в комитеты. И не только с вашей стороны — от венчурных капиталистов, от Anthropic.
— Вы о том, считаю ли я, что всей ИИ-отрасли следует договориться прекратить отдавать деньги в политику?
— Да, может быть, замедление, размеренное сокращение политических трат.
— Вообще говоря, я бы хотел видеть в политике куда меньше денег. Не думаю, что это улучшает динамику политической системы. И не знаю как. Не думаю, что я или отрасль в силах обезоружить эту систему. И не думаю, что сработает принцип указывать одним: давайте, а другим: нельзя. Если у вас есть способ уменьшить приток денег в политику, я был бы крайне рад поддержать, будь это в целом осуществимо.
— За рамками должностных обязанностей, к сожалению.
— Но полагаю, это пошло бы на пользу.
— Разумеется. Все так говорят. А потом наступает время выборов, и фишки падают. Хочу ненадолго обратиться к штатам. Politico сообщило, что вы писали губернатору Калифорнии Гэвину Ньюсому насчет законопроекта о безопасности чат-ботов для детей до его принятия законодательным собранием минувшим летом. Видите ли вы в Ньюсоме союзника в политике по ИИ? И не думаете ли, что он способен залечить разлад между Демократической партией и Кремниевой долиной?
— Он мне нравится. Я всегда считал его человеком, глубоко и вдумчиво относящимся к тому, чтобы сводить вместе множество групп интересов в штате. Так что да, полагаю, здесь он способен сыграть определенную роль.
— Он, разумеется, кандидат в президенты — или, во всяком случае, весьма вероятный кандидат.
— Похоже, скорее всего, им станет.
— Вероятно, окажется в списке кандидатов — в какой-то момент. Видите ли вы других потенциальных кандидатов в президенты в числе тех, кому можете позвонить напрямую? С кем еще вы регулярно говорите об искусственном интеллекте, о политике — обо всем, что касается гонки за место в Белом доме?
— Намерен сделать все возможное, чтобы работать с тем, кто станет следующим президентом, но времени с вероятными кандидатами пока провожу немного. Буду работать с тем, кто окажется президентом Соединенных Штатов, когда произойдет смена.
— Разумеется. А с Ньюсомом вы говорили просто потому, что находитесь в Калифорнии, и там, очевидно, дела идут вживую.
— Да, он наш губернатор.
— С кем из мировых лидеров вы часто общаетесь на тему ИИ и кто, по-вашему, действительно прокладывает соответствующий путь в политике или где-то еще?
— Скажем так, говорят об искусственном интеллекте практически все. Не припомню за последние пару лет разговора с мировым лидером, где он не вышел бы на первый план.
— А кто произвел впечатление? Кто больше всех впечатляет политикой в области ИИ или замыслами об этой технологии?
— Опять же, многих назову достойными. Первым, пока вы говорили, на ум пришел президент Франции: человек чрезвычайно вдумчивый и уже давно размышляющий о том, куда все идет и каким должен быть облик всего этого.
— Ненадолго перейдем к национальной безопасности и некоторым рискам для передовых компаний. OpenAI весьма громко говорит о враждебной дистилляции со стороны китайских компаний вроде Moonshot. Дистилляция — это, по сути, использование ваших моделей для обучения собственных при доле затрат, что позволяет затем очевидным образом подрезать вас по цене. Полагаете ли вы, что такие атаки через дистилляцию серьезно подрывают деловую модель OpenAI?
— Занятная вещь. Экономически — превосходно. А с другой стороны, постоянная тревога: мол, будет давление. Сегодня от конкурента, завтра — от открытых моделей. Но кто-то говорит и другое. Скажу так: мы хотим обеспечить себе лидерство, обеспечить защиту национальной безопасности и обеспечить людям изобильный доступ к искусственному интеллекту. И, как во многих других частях этого разговора, здесь сложный набор компромиссов.
— Разумеется. Вы, очевидно, поднимаете тревогу из-за этих атак посредством дистилляции, но не совсем ясно, что тут можно предпринять. Полагаете ли вы, что правительству Соединенных Штатов следует делать больше для противодействия враждебной дистилляции со стороны Китая?
— Полагаю, сделать можно многое. Вопрос в том, что у всего есть масса компромиссов. Можно раскрывать продукты по-разному: тогда их куда труднее перегонять, но это отнимает часть открытой творческой свободы. И этого бы совсем не хотелось. Уж точно не хотелось бы, чтобы к этому принудили. Так что, думаю, возможностей здесь немало. Просто все они сопряжены с компромиссами, и часть из них — вопрос государственной политики, а часть — дело обычных конкурирующих компаний.
— У вас есть предпочтение насчет того, что следует делать, или вы это продвигаете?
— Идет активное обсуждение. Не думаю, что мы готовы сказать: вот то, что мы по-настоящему поддерживаем.
— Когда определитесь, придите в Politico и дайте знать. Звучит неплохо. Сообщается, что OpenAI обязалась потратить около $750 млрд на вычисления с нынешнего момента до 2030 года. Кажется, минувшим летом такая информация проскочила в Wall Street Journal. Но условия кредитования ужесточаются. И вашу фирму называют кредитным риском для компаний вроде Oracle, стоящих во главе гипермасштабирования и строительства этой инфраструктуры. Эта динамика повышает издержки OpenAI — или ожидается, что повысит?
— Издержки повышает цепочка поставок, куда сильнее, чем рынки финансирования. Финансирование, скажу так, пока дается легко, но его много, а кремниевые пластины куда в большем дефиците, и именно там происходит основная часть капиталоемких вложений.
— OpenAI отложила первичное IPOдо 2027 года. Не рассматриваете ли вы возможность отложить его дальше?
— Полагаю, когда за плечами будет несколько случаев решения проблем безопасности и мы увидим, что способны достойно работать в новом режиме, рыночные перемены все же могут заставить мыслить иначе. В мире случается непредсказуемое. Но с точки зрения безопасности и уж точно с финансовой стороны я ожидал бы готовности.
— Много разговоров о регуляторных усилиях, которые, полагаю, в значительной мере ведет сама отрасль. Много толков о FINRA для искусственного интеллекта. Знаю, что вы, Дарио и Демис Хассабис из Google DeepMind много об этом говорите. По сути, саморегулируемый орган, способный делиться информацией и даже, возможно, координировать замедление, если станет совсем страшно. Как вы все это обсуждаете? Есть группа в WhatsApp или как вы общаетесь на сей счет?
— Общего WhatsApp, где сидели бы все, нет. Но есть множество людей, которые сталкиваются друг с другом на одних и тех же конференциях. Бывают звонки, встречи, что-то такое.
— Полагаете ли вы, что правительству следует предоставить ведущим компаниям в сфере ИИ изъятие из антимонопольного законодательства, дабы координировать усилия подобным образом? Именно об этом говорили Дарио и Anthropic.
— Опять же, юристом не являюсь. Насколько понимаю, закон достаточно ясен: нам нельзя сговариваться о ценах на модели — это было бы нехорошо — или решать, что не выпускать. Но закон, полагаю, дает ясное представление о том, что делиться передовым опытом по безопасности, отчетами о происшествиях и тому подобным нам можно.
— А почему, по-вашему, Anthropic призывает к изъятию из антимонопольного законодательства?
— Вопрос к ним.
— Нынче выходит много фильмов об искусственном интеллекте. В одном из них вас играет Эндрю Гарфилд. Кажется, картина называется "Artificial". По новой схеме ее, пожалуй, стоило бы назвать "Super". Кто должен вас сыграть? Гарфилд — удачный выбор? Есть ли на примете другой человек? Все ведь об этом думают.
— Кто должен сыграть их в кино?
— Кто должен сыграть вас в кино?
— Об этом прежде не задумывался. В "Человеке-пауке" он, по-моему, был весьма хорош. Да.
— Хорошо.
— Не знаю. Думаю, странным это выйдет в любом случае.
— Да.
— Но людей я люблю. Надеюсь, выйдет занимательно и забавно. Ну, а точности от этого кино я и не жду.
— Хочу спросить еще немного о китайском вопросе, пока вы здесь. Дистилляция — одно. Есть и более масштабный вопрос о гонке с Китаем. Не знаю, насколько пристально вы отслеживаете, кто впереди. Не вполне даже понимаю, как это отслеживать. Ведете ли вы такой учет? Кто находится на передовой? И как бы вы оценили OpenAI, Anthropic — лидеров в этой области? Насколько вы опережаете китайские компании?
— Полагаю, мы впереди. Трудность в том, чтобы выразить это числом, ибо на это число влияет множество решений. С некоторой уверенностью скажу: лучшая внутренняя модель, полагаю, значительно опережает лучшую внутреннюю модель любой китайской компании. Но насколько именно — сказать затруднительно.
— Любопытно, откуда вы это знаете. Казалось бы, подобное ведомо разве что аналитикам разведки.
— Я как раз собирался сказать: у нас есть основания так полагать, но они не стопроцентные. А хотелось бы знать с абсолютной уверенностью.
— Делится ли правительство когда-либо с вами такими сведениями? Полагаю, за китайскими лабораториями оно следит.
— Возможно, с кем-то другим в OpenAI, у кого есть допуск к секретным материалам. Мне не говорили: вы опережаете те усилия на столько-то месяцев.
— Быть может, это лишь добавило бы лишнего давления, ни к чему. Хочу спросить вот о чем: вы были здесь на государственном обеде. Звучало немало призывов к некоему соглашению с китайским правительством о размеренности. Президент, похоже, не желает иметь с этим дела. Любопытно, считаете ли вы возможной какую-либо сделку с китайской стороной в ближайшее время — хотя бы с нынешней администрацией?
— Полагаю, нечто такое возможно. Не знаю точных очертаний того, что удастся осуществить, но наш президент невероятно искусен в заключении сделок.
— Полагаете ли вы, что нужно подниматься по этой цепочке? Мне описывали так: сперва следует навести порядок у себя, затем, быть может, обратиться к демократиям и посмотреть, удастся ли всем прийти к единому пониманию. А уж после этого идти к китайской стороне. Можно ли сократить этот путь или, по-вашему, непременно надо восходить по этой цепочке?
— Здесь вы обратились не по адресу. Вам, вероятно, известны многие знатоки сложных международных материй. Есть вопрос о технологии искусственного интеллекта — дам ответ. А вершить сложное международное дело — тут я, пожалуй, не самый искушенный человек из тех, к кому можно обратиться.
— Быть может, это вопрос к вашим специалистам по политике. И все же, когда речь о китайской стороне, видите ли вы в ней крупную угрозу национальной безопасности в связи с развитием ИИ? Ведь есть усилия по введению экспортного контроля на поставки соответствующих чипов в Китай. Часть ограничений уже действует. Есть старания ужесточить их в грядущий период "хромой утки", независимо от того, кто победит на выборах. Полагаете ли вы, что они оказались действенными?
— Полагаю, вопрос о том, какие страны применяют более мощный искусственный интеллект друг против друга, — очевидно, огромная проблема национальной безопасности. Отчасти потому здесь и хотелось бы некой сделки. В прошлом мы поступали так с другими по-настоящему разрушительными технологиями, даже между странами, которые друг друга откровенно не жалуют. И вместе с тем полагаю, что облик этой технологии столь необычен, что делать вещи ограничительного свойства, работавшие в прошлом. Если взять пример...
— То есть вы полагаете, что экспортный контроль — своего рода устаревшая попытка…
— Наверняка есть некая версия, которая могла бы сработать, но модель можно обучить в другой стране, а по завершении просто выложить готовую модель в сеть. Это вещь иного толка.
— Anthropic усиленно продвигает экспортный контроль, и там, по сути, орудуют настоящие ястребы в отношении Китая. Они считают, что победить китайскую сторону здесь можно, ограничив доступ к американскому оборудованию. Разделяете ли вы это? Видите ли здесь путь?
— Это из той же категории. Опять же, прежде всего хочу, чтобы от этой технологии выиграл весь мир. А идея, будто выгоду должны получить только американцы, а китайцам ее давать не надо, мне не по душе. Хотя реальные геополитические последствия для могущества, разумеется, есть. Но мне совершенно неясно, что поток чипов окажется лучшим способом решить проблему.
— И в начале разговора вы упомянули, что тревожитесь о концентрации власти у людей, но также у стран — быть может, у одной страны. Звучит не слишком в духе "Америка прежде всего", а будто вы держитесь мысли, что технологию следует разделить со всеми.
— Будь у меня волшебная палочка, я бы сказал: пусть у Америки будут самые мощные нейросети. Множество вычислений для ИИ пусть достается Америке, она же пусть осуществляет политические решения в мире. Люблю американский строй, американскую систему ценностей и, разумеется, саму Америку. Но не думаю, что выгоду от технологии должны получать только американцы, что лишь у них в будущем должен быть голос или что власть должна быть сверхнеравномерно сосредоточена в одних руках на фоне остального мира.
— Что ж, Сэм, огромное спасибо. Замечательно поговорили. С удовольствием повторил бы. Благодарю, что поучаствовали в первом выпуске нашего подкаста. Превосходно.
— Всего доброго.
* признана экстремистской и запрещена в России
