Материалы ИноСМИ содержат оценки исключительно зарубежных СМИ и не отражают позицию редакции ИноСМИ
Искусственный интеллект превзойдет сумму человеческого интеллекта через пять лет, заявил Илон Маск в беседе с The Economist. Также, по мнению предпринимателя, в течение десяти лет люди полностью утратят контроль над ИИ.
Илон Маск: Думаю, ИИ превзойдет сумму человеческого интеллекта через пять лет.
Зэнни Минтон Беддоуз (главный редактор The Economist): Через пять лет?
— Примерно через пять лет, по моим прикидкам. Не останется ничего такого, что бы ИИ не смог сделать лучше человека. Кроме того, чтобы быть самим человеком, пожалуй.
— А как будет выглядеть наша жизнь на бытовом уровне?
— Скорее всего, грядет эпоха удивительного изобилия, где каждый сможет получить буквально все, что только пожелает. Возможно, это прозвучит абсурдно, но так ситуация выглядит сейчас, в 2026 году. Давайте посмотрим, что изменится через десять лет. Конечно, существуют процессы и события, которые могут внести в это коррективы: например, масштабная термоядерная война или нечто подобное. Но если мы предположим, что третьей мировой все-таки не случится, то, думаю, мы можем говорить о том, что сейчас будущее выглядит оптимистичным и воодушевляющим.
— Вы уверены, что через десять лет люди потеряют контроль над ситуацией?
— Думаю, маловероятно, что люди сохранят контроль. Ведь разница между ИИ и человеческим интеллектом гораздо больше, чем разница между интеллектом человека шимпанзе. Мне вот трудно себе представить, чтобы шимпанзе стали главнее нас.
— Это действительно поражает.
— По сути, мы с вами — эволюционировавшая форма шимпанзе. Не так давно мы раскачивались на деревьях и питались бананами в джунглях. Кстати, мы до сих пор едим бананы.
— Вы говорили, что существует 10-20% вероятность того, что роботы-убийцы уничтожат человечество.
— Да.
— Получается, раньше вас это беспокоило. Теперь, кажется, вы спокойны? Ваша точка зрения изменилась?
— Я до сих пор считаю, что есть риски, связанные с ИИ и роботами. Вероятность не равна нулю. Думаю, я пришел к собственному философскому выводу: нужно смотреть на вещи с оптимизмом. Мы не сможем остановить невероятный прогресс в ИИ и робототехнике. Иногда я задумываюсь, даже если бы существовала кнопка "Стоп", нам, вероятно, не стоит ее нажимать. Потому что наиболее вероятный результат всего этого — удивительное изобилие для всех нас.
— На самом деле, я тоже об этом думала. Меня поражает, как вы пришли к выводу, что подобное неизбежно. Будем надеяться на лучшее и двигаться только вперед.
— Да-да. В смысле, так оно и есть. Давайте наслаждаться моментом. Моя философия сейчас такова: я абсолютно уверен, что прогресс в области ИИ и робототехники нельзя остановить. Даже если бы я хотел это сделать, у меня не получилось бы.
— И все-таки, как думаете, существует ли 10-20% риск того, что роботы-убийцы уничтожат человечество? Это очень высокий риск.
— Ну, в долгосрочной перспективе, мы все умрем конечно. Знаете, согласно стандартной модели физики, процесс смерти Вселенной можно сравнить с долгим, однообразным процессом охлаждения супа. Это так называемая тепловая смерть Вселенной. В общем, если тепловая смерть Вселенной станет нашим итогом, нам нужно просто продолжать двигаться вперед, потому что в пункте назначения нас все равно не ждет ничего хорошего.
— Да, но смерть Вселенной займет очень много времени…
— Вы правы, она действительно займет очень много времени.
— Но когда мы говорим об угрозе со стороны ИИ, речь идет о том, что он с вероятностью в 10-20% может начать представлять угрозу уже через десять лет. Сели бы вы в одну из ваших ракет, если бы знали, что существует 10%-20% шанс, что она взорвется и убьет вас?
— Да, но давайте еще раз отметим, что мы ничего не сможем с этим поделать. Думаю, единственное, что нам остается — это минимизировать вероятность негативного исхода. Я долгое время отказывался участвовать в ИИ-проектах. Поэтому я и помог создать OpenAI. Она же, по сути, стала противовесом Google, у которых долгие годы практически была монополия в сфере искусственного интеллекта. Затем от Open AI откололась компания Anthropics, которая сейчас стала лидером в области ИИ, — все это привело к цепной реакции, она ускорила развитие искусственного интеллекта. Однако, это не было моей целью. Но, похоже, любая дорога ведет к ускорению развития ИИ. Тогда я подумал: "Ладно, ты можешь расстраиваться из-за этого или вступить в клуб".
— Полагаю, в итоге вы все-таки вступили в клуб?
— Да.
— Разумеется, вы это сделали.
— Не можешь победить — возглавь. Ну, вы поняли.
— Часть разработчиков ИИ-моделей предлагают самые разные пути, чтобы минимизировать риски. Буквально на прошлой неделе Демис Хассабис (сооснователь ИИ-компании DeepMind, — прим. ИноСМИ) выступил с предложением создать частно-государственный регулятор. Не думаете, что вашим людям стоит активнее работать над созданием механизма, чтобы контролировать риски? Или такое тоже невозможно?
— Да. Мы с Демисом разговаривали за несколько часов до той самой публикации, и я сказал ему, что нам необходимо организовывать своего рода совещания между ведущими ИИ-компаниями хотя бы раз в несколько недель, чтобы обсуждать вопросы, связанные с безопасностью.
— Но почему до сих пор никто этого не сделал? В смысле, неужели вы все друг друга настолько не любите? Вы конкурируете между собой и каждый из вас хочет быть лидером…
— Да-да. Но конкретно в нашей сфере конкуренты могут проверять друг друга на честность. Здесь скорее так. Человеку из правительства, если он не обладает глубокими техническими знаниями об ИИ, или если он не работает на передовой отрасли, будет очень сложно понять, какие продукты можно выпускать, а какие — нет. Однако, я уверен, что конкуренты, если им дать неделю-две на проверку новой ИИ-модели, смогут выявить ее проблемы и получить стимул для честной конкуренции.
— Таким образом, вы хотели бы создать систему, где разработчики ИИ-моделей могли бы проверять работу друг друга. И, если бы их что-то беспокоило, они бы сообщали об этом правительству?
— Да. Если компании укажут на то, что существуют некие причины для беспокойства, но она ничего не предпримет для того, чтобы устранить их, тогда государство должно будет вмешаться и принять меры. Собственно, именно это и прозошло с моей ИИ-моделью.
— Как скоро это должно произойти?
— Думаю, было бы неплохо, если мы сделаем это немедленно.
— Люди постоянно мне об этом говорят. Нам нужно внедрить какую-то систему в течение следующих шести месяцев, учитывая темпы развития ИИ-моделей.
— Да, только шесть месяцев — это очень долго.
— Думаете, можно сделать быстрее?
— Ну, у нас и так много громких анонсов о прорывах в области ИИ. Иногда по несколько штук в день. Сколько таких новостей было на прошлой неделе?
— Много.
— Я лично сбился со счета, очень много.
— Независимо от того, поступит предложение от Демиса или от кого-то другого, вам нужно собраться и организовать это немедленно. Вы говорите об этом?
— Да. Я бы предложил проводить какие-нибудь неформальные звонки, раз в одну-две недели. И чтобы все, кто принимает в этом участие могли получать доступ к новой ИИ-модели за одну-две недели до релиза. Так должна работать система стимулов. Конкурирующие компании, скорее всего, поймут, если что-то представляет угрозу безопасности. Они не постесняются сказать конкурентам, что выпуск обновления стоит отложить.
— Но вы, ребята, не очень-то ладите между собой и не доверяете друг другу. Вы постоянно оскорбляете друг друга в социальных сетях. Думаете, вы сработаетесь с людьми, зная, какая личная неприязнь бывает между некоторыми главами компаний?
— Это так, я не большой поклонник Сэма Альтмана (бывший директор OpenAI и один из создателей ChatGPT. — прим. ИноСМИ). Потому что изначально он создал НКО, она занималась ИИ-продуктом с открытым исходным кодом, который должен был принадлежать всему миру. Однако каким-то образом теперь это коммерческая компания, код стал закрытым, а ее годовой оборот превысил 800 миллиардов долларов. Думаю, на моем месте вы бы тоже сказали: "Погодите-ка, это совсем не то, на что я пожертвовал свои деньги". В этом вся проблема. Думаю, я имею право так рассуждать. Уверен, что Дарио (Дарио Амодеи — основатель компании Anthropic, которая разрабатывает языковые модели для нейросети Claude. — прим. ИноСМИ) тоже не в восторге от Сэма Альтмана. Команда Anthropic покинула OpenAI именно из-за недоверия к Альтману. Иначе Anthropic бы не стала самостоятельной компанией и до сих пор была бы частью OpenAI. Думаю, Дарио крайне принципиальный человек, он заботится о судьбе всего мира. И вообще, все, кого я знаю из Anthropic, всегда производили впечатление людей с добрыми намерениями.
И мне кажется, что дорога в ад вымощена преимущественно дурными намерениями, однако, на ней всегда найдутся и несколько "благих" камней, поэтому расслабляться не стоит. В конце концов, если придется, мы в итоге поговорим. Нужно отбросить в сторону личные разногласия. Мы должны сделать это ради остального мира.
