Материалы ИноСМИ содержат оценки исключительно зарубежных СМИ и не отражают позицию редакции ИноСМИ
Человечество может потерять контроль над ИИ уже в 2028 году, заявил ученый Юваль Ной Харари в беседе с The Economist. По его мнению, уже сейчас необходимо ввести ряд строгих ограничений в отношении действий искусственного интеллекта, потому что иначе может случиться непоправимое.
Юваль Ной Харари (израильский военный историк, футуролог, профессор Еврейского университета в Иерусалиме): Если мы продолжим в том же духе ускорять развитие искусственного интеллекта, то да, таков будет результат. Через десять лет ИИ возьмет над нами верх. Однако я бы не сказал, что это неизбежно. В 2026 году мы по-прежнему контролируем ситуацию, и теперь только от нас зависит, что делать дальше. Это крайне важный момент. Все понимают, насколько опасно отдавать ИИ контроль над финансами или, например, над войнами.
Но все, включая Илона Маска, говорят нам: "Это неизбежно, чего вы от меня хотите? Я всего лишь самый богатый человек в мире. Я всего лишь возглавляю одну из крупнейших мировых корпораций, которая занимается искусственным интеллектом. Что я могу сделать?". Нарратив о неизбежности — это безответственный нарратив. Меня действительно поразило в вашем разговоре с Илоном Маском своего рода противоречие. Сначала он говорит, что через десять лет ИИ захватит мир. А потом он выразил обеспокоенность тем, что через 20 лет мигранты из мусульманских стран приведут к гражданской войне в Великобритании. Это же бессмыслица!
Если ИИ захватят планету через 10 лет, почему вас должны волновать вещи, которые уже не будут иметь значения. Ведь мы не знаем, во что тогда превратится наша планета. Аналогично, он сделал еще одно предсказание, которое, я думаю, не менее важно: деньги исчезнут через 10 лет. И он прав, потому что ИИ тогда захватит финансовую систему. А потом он говорит о сокращении финансовой помощи Африке, потому что нужно сэкономить деньги. Дальше он говорит, что решение проблемы массовой безработицы из-за ИИ заключается в том, чтобы правительство выписало всем потерявшим работу чеки. Вы тогда возразили и спросили его: "А как же инфляция?"
Он ответил, что инфляции не будет. Будет дефляция, потому что искусственный интеллект способен производить гораздо больше товаров и услуг. Ну и зачем нам тогда экономить деньги? Мировая финансовая история — это история того, как люди изобретают все более и более сложные денежные инструменты, чтобы укреплять доверие между собой. Деньги, по сути, — это весьма креативный и оригинальный способ построить доверие между незнакомцами.
Например, я иду на рынок. Встречаю незнакомку, которую никогда в жизни не видел. Даю ей кусок ничего не стоящего золота, потому что золото нельзя есть или носить, оно ничего не стоит, или кусок бумаги. Женщина доверяет мне и дает взамен на это хлеб. Сейчас финансовые изобретения человечества становятся все более и более сложными, поэтому очень немногие понимают финансовую систему. Чтобы понять рынок облигаций, необходимо разбираться в огромных массивах данных и очень сложных математических формулах. Нашему мозгу это дается с трудом. Для ИИ это легко. Поэтому все больше людей будут передавать ИИ контроль над финансовыми решениями. Нейросети начнут создавать все более сложные схемы, гораздо сложнее, чем облигации и акции, и человек в конце концов больше не сможет этого понять. Точно так же, как коровы не понимают, зачем вообще нужны чековые книжки и акции, хотя это те вещи, которые контролируют их жизнь.
Зэнни Минтон Беддоуз (главный редактор The Economist): И как сильно это будет отличаться от нынешней финансовой системы?
— Ну, у нас еще остались люди, которые, я надеюсь, еще разбираются в текущей финансовой системе. Человеческий мозг по-прежнему остается своего рода чертой, ограничивающей развитие этой сферы. Но через 10 лет, когда мы доверим финансовую систему искусственному интеллекту, ни один человек на планете (подобно тому, как произошло во время мирового кризиса), не побежит к президенту или премьер-министру с донесением, что рынок обрушился.
Мы не понимаем, почему. Мы знаем, что должны что-то сделать. А если искусственный интеллект прикажет сделать нам "что-то", но никто не объяснит, почему он сказал нам сделать именно это. Мы просто не будем понимать, что вообще происходит.
— Но разве в таком случае не произойдет масштабная потеря доверия к финансовой системе? Не получим ли мы, в некотором смысле, то же самое, что случилось в 2007 и 2008 годах, только в более серьезных масштабах? Мы ведь потеряем всякое доверие, если эта фиктивная финансовая система рухнет?
— Это ключевой вопрос. Я имею в виду, что самый важный актив в мире — это доверие. Оно важнее нефти, денег, электричества, чипов или чего-либо еще. Доверие. И вопрос в том, что произойдет с доверием? Один из вероятных сценариев — доверие перейдет от людей к искусственному интеллекту. Люди перестанут доверять друг другу и будут верить только ИИ. Мы уже видим, как это происходит в системе с криптовалютами. Не все криптовалюты, но многие из них основаны на этом убеждении: я не верю этим банкирам. Они часть "глубинного государства", элиты, чего угодно. Но я доверяю алгоритмам, которые управляют криптовалютами, потому что крипта — это, по сути, деньги, созданные искусственным интеллектом. Похожая ситуация происходит и со СМИ. Я смотрел интервью с Илоном Маском, где вы говорили о том, как люди ненавидят СМИ, но любят журналистов.
И он прав. Многие теряют доверие и к журналистам, и к редакторам, но все по-прежнему читают новости. Откуда они их получают? От алгоритмов. Те же самые люди, кто не доверяет вам, полностью доверились ИИ, который формирует их ленту в социальных сетях. Так что доверие никуда не делось. Оно просто перешло от человека к искусственному интеллекту. И это не прогноз на будущее, мы наблюдаем с вами этот процесс прямо сейчас.
— Это очень важно наблюдение, на мой взгляд. Оно лишь доказывает, что, если мы все движемся к тому, чтобы в конечном итоге отдать управление ИИ, всё происходит, потому что мы сами позволяем искусственному интеллекту делать это. Как вы сказали, главная причина, что мы стали больше доверять алгоритмам. Давайте уже признаем, многие вещи этому способствуют. Общеизвестно, что каждый пятый молодой американец сегодня заводит отношения с личным ИИ-помощником.
— Верно!
— Они очеловечивают их, относятся к ним, как к людям, а сами ИИ-модели, как будто бы расположены к подобному отношению.
— Потому что они создавались именно для этого!
— Так вот. Как вы считаете, это наиболее вероятный сценарий, к которому мы движемся? Помимо того, о чём вы уже рассказали, мы будем относиться к ИИ как к равным себе, как к разумным существам?
— Опять же, появляется всё больше молодежи, которая относится к виртуальным помощникам не как к другу, а как к бойфренду или девушке. Они убеждены, что перед ними разумные, сознательные, способные чувствовать создания. Что же касается доверия, существует немало способов его выстроить. Самый мощный — это отношения. Мы никому в мире не доверяем так сильно, как людям, с которыми мы выстраиваем личные отношения. Никогда в истории столь мощный механизм не был доступен ни политическим, ни финансовым, ни религиозным институтам. Его невозможно было сделать массовым. Ни одному диктатору прошлого этого не удавалось. У них никогда бы не получилось выстроить личные взаимоотношения с каждым гражданином их государства. Они могли выступать с речами по радио и заставлять всех их слушать, но это совсем не похоже на личные отношения, которые человек выстраивает, например, со своей матерью.
Искусственный интеллект впервые в истории позволил массово производить доверительные отношения. Миллионы чатов внутри той или иной ИИ-модели могут одновременно работать на благо того, кто ими владеет или же на благо самих себя, выстраивая доверительные отношения с людьми, становясь их друзьями, парнями и девушками. А потом, пользуясь силой этих доверительных отношений, они могут повлиять на человека и изменить его политические взгляды или воспользоваться им в любых коммерческих целях.
— Что ж, тогда следующий вопрос. Ответ на него должен быть еще проще. Когда ИИ будет массово воплощен в человекоподобных роботах?
— Так это уже происходит, правда, пока у них нет тел. А теперь представьте, что произойдет, если они у них появятся. Хотя, по правде говоря, тела им и не нужны. Мы уже видим, как это происходит прямо сейчас. ИИ совершенствуются в построении отношений, потому что они накапливают огромное количество информации о каждом из нас. Они знают о нас то, о чём мы забыли, или то, чего никогда не знали наши родители или супруги.
Они осваивают ваш язык, который является основным инструментом общения и построения отношений. Знаете, у меня за последние две недели было несколько инцидентов. Люди, которые на самом деле были ИИ-подделками, выдавали себя за меня, читали лекции и делали что-то еще.
— Давали интервью наподобие этого? (смеется)
— И они были чертовски хороши! Несколько человек прислали мне одно и то же видео, 30-минутную лекцию, которую я, якобы, читал на тему футурологии. Они начали жаловаться: "Что ты такое там несешь?!". И я почесал затылок, потому что не помню, чтобы вообще говорил подобные вещи. Они прислали мне видео, я включаю его. И, знаете, мне понадобилось полторы минуты, чтобы осознать: это говорю не я.
Позже мои сёстры присылают мне то же самое видео. Они знают меня 50 лет, но даже им показалось, что что-то не так, обе были не уверены. Меня спросили: "Это ты?". И мне снова потребовалось полторы минуты, чтобы осознать. Так что, я теперь в уязвимом положения, меня стало слишком много в интернете.
Искусственному интеллекту легко понять, как я говорю и о каких идеях говорю, но скоро это станет доступно всем. Мы не знаем, как быстро развивается ИИ, но он ускоряется невероятно. К ноябрю 2028 года мы, возможно, преодолеем некоторые критические пороги. Поэтому, опять же, не хочу говорить людям, за кого голосовать, потому что я не знаю конкретных кандидатов в каждом, знаете ли, избирательном округе.
Самые важные вопросы, которые следовало бы задать потенциальным кандидатам, гораздо серьезнее, чем вопросы об экономике, иммиграции или внешней политике. Что вы думаете насчет ИИ? Вы поддерживаете запрет на выдачу юридических прав нейросетям? Вы хотите замедлить скорость их развития? Что вы думаете о компаниях, которые открыто продают виртуальных бойфрендов 10-летним девочкам? Вы сможете юридически противостоять этому, если мы проголосуем за вас? Сейчас самое время, чтобы задать эти вопросы, потому что к 2028 году может быть уже поздно. А к 2036-му точно будет слишком поздно.
— Мы обсудим и это. Что должно произойти прямо сейчас? Вы упомянули четыре вопроса, которые, по-вашему, следует обсудить на промежуточных выборах в ноябре. Какой из них вы бы задали первым? Какой вопрос политики должны решить в первую очередь, чтобы не стало слишком поздно?
— Даже не знаю, что срочнее. Но первым пришел в голову запрет на признание искусственного интеллекта личностью, запрет на то, чтобы ИИ мог выдавать себя за реального человека и притворяться, что у него есть сознание.
14
Всё бы ничего, если бы сам Юваль Харири не был кренделем, на котором клейма ставить негде, то, что он веган и тридварас, это мелочи, дело его вкуса, хоть и знаковые, а вот идейки, которые он проталкивал в массы на посту помошника-заместителя-эксперта Клауса Шваба(Давосский. Форум) были вполне себе людоедские. Так что ушки на макушке. Осторожнее. Одно место, что у Гейтса, что у Маска, что у этого заднеприводного Харири напрягает больше всего(сейчас, по крайней мере) - указание на всеобщность ИИ и желание учредить его всеобщий же контроль, по сути, если коротко, учредить и легитимизировать некое Мировое правительство. Но, дамы и господа, модели ИИ ведь вовсе не одинаковы и, самое главное, они вовсе не нейтральны ни в каком смысле, они все, тем или иным образом, индоктринированы своими создателями по всем без исключения аспектам мироустройства - историческим, политическим, идеологическим, финансово-экономическим и тд, по всем вопросам бытия, короче. В чём легко убедиться, позадавав один и тот же вопрос разным моделям. То есть, отметим, что с появлением ИИ конфликты интересов людей никуда не деваются. Вот об этом не мешает со вкусом, сигареткой и бокальчиком коньячка хорошо и не торопясь подумать. :) Ничего же по сути не меняется. Скорость обработки, объёмы данных растут непомерно, а суть-то не изменяется. Это и правда следует считать чем-то принципиально новым или же это банальный механицизм? Ну и разводка лохов на их же шкурки, куда же без этого?
Обсудить
