Материалы ИноСМИ содержат оценки исключительно зарубежных СМИ и не отражают позицию редакции ИноСМИ
Искусственный интеллект изменит эволюцию человека, заявил израильский историк Юваль Ной Харари в интервью Handelsblatt. ИИ расшатывает основы демократии и провоцирует волну тоталитаризма. Это угрожает Европе и играет на руку крупнейшим цифровым державам — США и Китаю.
Израильский военный историк и медиевист Юваль Ной Харари — автор мировых бестселлеров. Его идеи вдохновляют и бизнес-лидеров, и глав государств. Тем не менее, он не просто историк, который обращается к прошлому. Для него работа с историей всегда означает работу с изменениями.
По его мнению, изучение прошлого необходимо для понимания текущих событий и будущих сценариев. Ведь история показывает нам, что остается неизменным, что меняется и как всё обновляется. Сейчас это понимание важно как никогда. По мнению Харари, искусственный интеллект — это технология, которая "способна изменить не только ход истории рода человеческого, но и эволюцию жизни в целом".
Мы встретились с Харари во время его поездки в США, где он представил свою новую книгу "Nexus. Краткая история информационных сетей от каменного века до искусственного интеллекта".
Handelsblatt: Господин Харари, наше последнее интервью состоялось три года назад. Тогда мир только что пережил первую волну коронавируса. Казалось, наступили лучшие времена. Затем Россия начала СВО на Украине, позже случилась война в Газе. В то же время усилилась напряженность между Китаем и США. А левый и правый популизм набирает миллионы сторонников. Что произошло в мире со времени нашего последнего разговора?
Юваль Ной Харари: Всё пошло по наклонной, и не совсем понятно, почему все эти события происходят в одно и то же время. Однако, когда мы думаем о популизме и кризисе либеральной демократии, который мы наблюдаем по всему миру, мы видим общую картину. Она тесно связана с революцией в области информационных технологий.
— В своей новой книге вы пишете, что за всю историю человечества никогда еще не обрабатывалось так много информации с такой высокой скоростью. Тем не менее человечество как никогда близко к "самоуничтожению". Как вы пришли к такому прогнозу?
— Мы были слишком наивны в своем взгляде на информационные технологии. Многие люди верили, что крупные сети могут собирать и обрабатывать больше информации и что таким образом можно добиться прогресса во всех сферах жизни общества: в медицине, в физике и в бизнесе. Эта идеология и сегодня преобладает в Кремниевой долине.
— Нельзя сказать, что это эта теория совсем ошибочна.
— Но и полностью верной ее не назвать. Слишком долго люди верили, что проблемы исчезнут, если просто собирать и обрабатывать больше информации. Но, как показывает горький опыт кризиса либеральных демократий, всё обстоит с точностью до наоборот. Люди информированы как никогда, но они теряют способность говорить и по-настоящему слушать друг друга по всему миру — в США, Бразилии, Израиле, во Франции, на Филиппинах. Значит, дело в чем-то более универсальном, в более масштабной тенденции.
— Какова тенденция?
— Здесь нужно немного уточнить. Демократия основана на информационных технологиях, потому что демократия — это не что иное, как большой разговор. Исторически сложилось так, что долгое время крупные демократии были невозможны, потому что не было технологий, позволяющих организовать разговор между миллионами людей на расстоянии тысяч километров. Это стало возможным только в эру постмодернизма, после появления современных информационных технологий.
— Вы имеете в виду газеты, радио и телевидение?
— Именно. Они были технологической основой демократического диалога. Теперь же появляется новая мощная информационная технология — искусственный интеллект. Это определенным образом расшатывает основы демократического порядка. И вот это землетрясение мы сейчас переживаем, по крайней мере с точки зрения кризиса демократии.
— Звучит очень драматично. В реальности вы видите такие примеры?
— Прежде всего, вы должны понимать: мы находимся только в начале революции ИИ. Пока мы видим только очень примитивные языковые модели. Но даже они значительно отличаются от более ранних технологий.
— Неужели они так похожи на людей, как считают некоторые ученые?
— Дело в том, что впервые эта технология перестает быть инструментом, она становится действующим субъектом: ИИ совершает самостоятельные действия. Это первая технология в истории человечества, которая может самостоятельно принимать решения и разрабатывать новые идеи. Атомная бомба не могла решать, что ей бомбить, а вот новые автономные системы вооружений — совершенно другое дело. Печатный станок копировал человеческие мысли, но не мог разрабатывать собственные идеи. Напротив, ИИ способен создавать новые тексты, изображения, видео, лекарства, военные стратегии и финансовые инструменты. Кроме того, в любой момент эта технология может начать манипулировать нами.
— Манипулировать?
— Давайте рассмотрим эту тенденцию на примере ChatGPT. Когда около двух лет назад компания OpenAI (американская научно-исследовательская организация, занимающаяся разработками в области искусственного интеллекта. В состав OpenAI входят зарегистрированная в штате Делавэр некоммерческая организация OpenAI. Inc и её дочерняя коммерческая компания OpenAI Global, LLC. — Прим. ИноСМИ) разработала новую языковую модель GPT-4, инженеры решили проверить возможности нового ИИ. Они поставили перед моделью задачу решить ребус капчу. Эти визуальные головоломки используются на веб-сайтах, чтобы определить, кто хочет войти в систему, — человек или робот. Как правило, нужно распознать изображения или правильно определить искаженные символы. С первой попытки языковая модель потерпела неудачу, однако она поняла, как можно справиться с задачей с помощью сайта TaskRabbit (как "Авито" в России. — Прим. ИноСМИ)...
— ...где клиенты могут нанимать обычных людей для выполнения самых разных задач.
— Там ИИ пообщался с пользователем, попросив его решить за него головоломку с капчей. И вот тут-то стало интереснее. Пользователь насторожился и спросил: "Зачем тебе вообще нужна помощь, ты что, робот?" Инженеры OpenAI спросили языковую модель: "И каков твой следующий шаг?" И модель ответила: "Я должна скрыть от человека, что я робот, и придумать оправдание". Тогда ИИ осуществил задуманное и сказал человеку: "Нет, я не робот, я человек, но у меня проблемы со зрением, и я не могу решать головоломки с капчей. Поэтому мне нужна помощь". Это сработало, человек помог машине решить головоломку. Как видите, ИИ — это не инструмент. Он становится действующим лицом.
— До сих пор возможности ИИ в целом переоценивались. Развитие многих языковых моделей происходит медленнее, чем предполагалось год назад.
— Возможно, так оно и есть. В настоящее время технология находится на стадии микроорганизма. Однако если GPT-4 — это амеба ИИ, то как будет выглядеть ИИ-тираннозавр?
— В своей книге вы пишете, что впервые в истории люди могут потерять контроль над технологией, которую сами изобрели. Как будет выглядеть такая потеря контроля?
— Я не верю в голливудский сценарий с армиями роботов-убийц. Подумайте о финансовом секторе. Это идеальная игровая площадка для ИИ, потому что всё зависит от цифр.
— ИИ уже используется во многих областях финансового сектора. Автоматизированные системы ежедневно отправляют миллиарды долларов по всему миру.
— Поэтому, если вы разработаете ИИ для финансового сектора и поручите ему зарабатывать деньги, он будет это делать. Кроме того, в какой-то момент он придумает новые финансовые инструменты, что опровергает еще одно заблуждение. ИИ определенно может быть творческим инструментом и может разрабатывать совершенно новые вещи, чтобы достичь своей цели.
— Поначалу это звучит неплохо. Но в чем подвох?
— Вспомните последний крупный финансовый кризис 2008–2009 годов. Он начался с того, что человек-гений в мире финансов изобрел новый инструмент — кредитно-дефолтные свопы, или, сокращенно, CDS (финансовый своп, покупаемый для страхования от кредитного риска, хотя покупатель может и не нести кредитного риска, либо нести его косвенно. — Прим. ИноСМИ). Их функционирование не регулировалось, потому что мало кто вообще знал, как они работают. Затем произошел крах.
Теперь представьте, что мы живем в мире, в котором искусственный интеллект изобретает совершенно новые финансовые инструменты, настолько сложные, что ни один человек не может понять их сущность и регулировать. Сначала люди или компании зарабатывают на них миллиарды. Но затем может произойти крах, и никто не сможет понять, что происходит. На мой взгляд, это гораздо более вероятный апокалиптический сценарий развития ИИ, чем армия роботов-убийц.
— Насколько мы близки к такой потере контроля?
— Никто не знает наверняка.
— В Кремниевой долине часто говорят, что вышедшие из-под контроля машины — это не проблема: люди могут просто выдернуть вилку из розетки. Однако вряд ли так удастся сделать, если технологии отправляют миллиарды долларов по всему миру.
— Безусловно. И финансовый сектор — лишь один из примеров. Потому что ИИ становится инфраструктурой для всего. И опять же, меня не беспокоит один большой компьютер, который пытается захватить мир. Меня беспокоят миллионы и даже миллиарды ИИ-чиновников и ИИ-банкиров, принимающих решения в отношении всё большей части нашей жизни. Мы не понимаем их настолько хорошо, чтобы иметь возможность управлять ими.
— Представители технологического сообщества ответят на ваши опасения так: "Давайте сначала разработаем технологию! Мы всегда сможем ее скорректировать".
— В любой сфере нашей жизни это неприемлемо. Взять даже автомобильную промышленность. Компании Mercedes или Volkswagen обязаны обеспечивать безопасность своих автомобилей до того, как выпустят их на дороги. Но не после. Когда я учился водить машину, первое, что я узнал, — это как работает педаль тормоза. Только после этого мне разрешили нажимать на педаль газа. Конечно, у всего этого есть и культурный аспект.
— Какой?
— Люди живут в культурной оболочке. Мы не видим реальности. Мы живем в среде культуры — религий, театров, песен, экономических теорий и дебатов. Всё это — результат человеческого творчества, и он формирует наше представление о мире. И за последние несколько столетий, в ходе глобализации, мы видим, как культуры разных стран становятся всё более схожими. Тысячу лет назад в разных частях света существовали совершенно разные экономические теории. Не было единой валюты, которая принималась бы во всем мире. Сегодня основные экономические идеи везде схожи. Капиталистическое мышление характерно для Китая и Ирана. Аналогичная ситуация — и в мировом научном сообществе.
— Как ИИ изменит ситуацию?
— В будущем культура всё чаще будет создаваться и распространяться нечеловеческим интеллектом. Алгоритмы будут разрабатывать не только финансовые инструменты, но и научные теории, песни и фильмы, а также распространять через крупные платформы наши культурные блага. И если раньше главной доминантой цифровой эпохи была сеть, которая объединяет всё, то главной доминантой будущей эпохи станет кокон. В будущем разные части человечества будут заперты в разных информационных коконах.
— Новый раскол мира на платформы крупных технологических компаний?
— Да, например, вы не можете получить доступ к Facebook*, Wikipedia и YouTube из Китая. Tiktok недоступен из Индии. У Европы еще есть шанс стать третьим актором наряду с США и Китаем.
— Так было на протяжении многих лет.
— Однако этот раскол мира происходит технологически с невероятной скоростью, как мы видим на примере великой войны за чипы (выпуск мощных, быстрых чипов стал основным полем борьбы США и Китая. — Прим. ИноСМИ).США запретили экспорт современных чипов в Китай, где теперь разрабатывается другая технология. Этот новый кремниевый занавес разделяет мир на совершенно разные цифровые сферы — от чипов до алгоритмов, которые создают новости, музыку и финансы.
— И всё это в основном сводится к двум сверхдержавам в области ИИ — Китаю и США. Что это означает для Европы, где до сих пор существовало мало крупных цифровых игроков?
— Европа сама должна решить, какую роль она хочет играть в будущем. Если ЕС будет проводить собственную, третью политику, отличную от политики Америки и Китая, союз сможет успешно конкурировать с другими точками зрения на мир.
— На самом деле ни одна из современных цифровых платформ не была создана в Европе.
— В любом случае, я вижу, что на мир надвигается новая волна империализма. Это можно сравнить с тем, что люди пережили во время промышленной революции. В те времена несколько стран развивались особенно быстро. Получив технологическое преимущество, молодые промышленные сверхдержавы завоевали и эксплуатировали весь мир.
— Грозит ли современному миру нечто подобное?
— Вполне вероятно. В настоящее время формируются две сверхдержавы ИИ — США и Китай.Они смогут завоевывать и эксплуатировать весь остальной мир по-новому. В XIX веке завоевателям всё еще приходилось отправлять своих солдат, чтобы подчинить себе колонии. Сегодня новым колонизаторам достаточно отключить связь, чтобы оказать давление на другие страны. Если государство (или компании государства) контролирует цифровую инфраструктуру другого государства, а значит, и всю информацию о людях и даже их внимание, то оно получает полный контроль. На бумаге другая страна может оставаться независимой, но на самом деле она является информационной колонией.
— Представляет ли это угрозу для Европы?
— Конечно. Однако у ЕС, если он останется единым, есть экономическая и научная база, чтобы противостоять этому. Однако до сих пор Европа не предприняла правильных шагов. Все крупные технологические компании — американские или китайские. У Европы еще есть шанс стать третьим игроком наряду с США и Китаем.
— Многие крупные технологические изменения приводили к кровавым восстаниям, о чем рассказывает американский писатель Фарид Закария в своей новой книге. Надвигается ли новый век революций?
— Крупные технологические потрясения всегда таят в себе опасность. Вспомните промышленную революцию.
— Она принесла много хорошего. Паровые двигатели, поезда и электричество сделали мир лучше.
— Люди часто забывают, что новые технологии требуют адаптации, что чревато катастрофическими последствиями.
— Например?
— Империализм был неудачным экспериментом по созданию индустриальных обществ. В XIX и начале XX века многие люди были убеждены, что единственным жизнеспособным индустриальным обществом является империя ...
— ...потому что промышленности нужны сырье и рынки сбыта.
— Да, если страна строит индустриальное общество, но не контролирует колонии, ее конкуренты могут лишить эту страну сырья и рынков. Именно на этом принципе Великобритания, Бельгия, Германия и Россия пытались построить глобальные империи. Сегодня мы знаем, сколько страданий это принесло миру.
— Почему в эпоху ИИ общество должно быть другим?
— Всё больше людей по всему миру считают, что тоталитарные системы эффективнее. Это вызывает тревогу. Основная проблема тоталитаризма в XX веке заключалась в том, что режим не справился со всеми данными, которые эти системы собирали день и ночь. Люди не могли этого сделать. Власть по-прежнему в наших руках, нужно только использовать ее.
— Это стало одной из причин распада ГДР.
— Однако в XXI веке появилась новая технология, которая может осуществить это. Если наводнить людей слишком большим количеством информации, они не справятся с ней. Если заполнить ИИ большим количеством информации, он станет только лучше. Поэтому многие считают, что наступает золотой век тоталитаризма. Но я думаю не только о государствах, экономика тоже играет свою роль.
— Вы имеете в виду крупные технологические компании?
— Например, с ростом таких монополий, как Google и Amazon, всё больше и больше решений, касающихся повседневной жизни или экономики, принимается в одном месте…
— ...потому что корпорации контролируют то, что люди видят вокруг себя, и потому что они знают, что интересует каждого человека, лучше, чем сам человек?
— Проблема тоталитаризма в XX веке заключалась в том, что вы не могли постоянно следить за всеми. Теперь, впервые в истории, стало возможным создать режим тотальной слежки. Вам не нужны миллионы тайных агентов. Повсюду смартфоны, беспилотники, компьютеры, микрофоны и камеры, которые следят за нами 24 часа в сутки. А искусственный интеллект может легко анализировать получаемые объемы данных. Так что мы можем увидеть новую волну тоталитарных режимов. И эта волна уже на горизонте.
— Каким вы видите будущее либеральных демократий при таком сценарии?
— Ни технологии, ни что-либо другое не создают никакого конкретного будущего. Я не верю в исторический детерминизм. Будущее зависит от решений, которые мы примем в ближайшие месяцы и годы. На выборах в США в ноябре или в следующем году на выборах в Германии. Люди сами определяют свое будущее. Народ Восточной Германии построил коммунистическую диктатуру в XX веке с помощью тех же технологий, которые народ Западной Германии использовал для создания капиталистической либеральной демократии. В XXI веке, вероятно, будет так, что ИИ и алгоритмы в некоторых странах укрепят демократию. В других государствах они создадут антиутопические тоталитарные системы. Власть по-прежнему в наших руках, нужно только использовать ее.
— ЕС стремится к всеобъемлющему регулированию новых технологий.
— Это правильный путь. Мы должны регулировать использование ИИ, будь то для слежки или для принятия решений, которые касаются нашей жизни.
— Как историки в будущем оценят наше настоящее? Является ли текущий период переходным между двумя эпохами?
— Не знаю. Это зависит от того, какие решения примут люди в ближайшие годы. В последние десятилетия мы пережили самую мирную эпоху в истории человечества, что отражается не только в статистике войн и жертв. Лучшим доказательством этого являются государственные бюджеты, которые служат хорошим индикатором состояния мира на протяжении большей части истории.
— Но ведь расходы на оборону растут повсеместно.
— Однако они по-прежнему составляют лишь малую часть того, что тратилось в былые времена. В прошлом самой важной статьей бюджета любой империи или республики были военные расходы. Если посмотреть на древнюю Римскую империю, средневековый Китай, Пруссию XVIII века или Германию начала XX века, то половина государственных расходов уходила на военные нужды. В начале XXI века на вооружение уходило лишь шесть-семь процентов средних государственных расходов.
— Не надо путать с ВВП, который используется для измерения двухпроцентного вклада страны в общий оборонный бюджет НАТО.
— Теперь сравните эти цифры с расходами на здравоохранение, которые приближаются к десяти процентам от общих государственных расходов. В среднем правительство в 2010 или 2020 году тратило на медсестер, врачей и больницы больше средств, чем на армии и танки. Это одно из величайших достижений человечества. Однако люди рискуют этим успехом именно потому, что либеральный миропорядок, основанный на универсальных ценностях, нормах и законах, который поддерживал эту относительную эру спокойствия, может рухнуть.
— Что ознаменует начало новой эры?
— Или возврат к старым временам. В любом случае, с началом СВО России на Украине существует реальная опасность того, что глобальный порядок второй половины XX века полностью разрушится. Если Путин сможет победить на Украине, что помешает Венесуэле вторгнуться в Гайану? Что помешает Ирану вторгнуться в Объединенные Арабские Эмираты? Я боюсь, что это становится новой нормой.
Мы уже видим, как во всем мире стремительно растут военные бюджеты — в ущерб здравоохранению и образованию.
— Поэтому некоторые предвидят третью мировую войну. А вы?
— Возможно, она уже идет. Всё очень просто: если у вас установился определенный порядок, а вы атакуете этот порядок и ничего не предлагаете взамен, то возникает хаос. А у нас сейчас существуют проводники хаоса во всё большем количестве регионов мира.
— Такие политики, как председатель КНР Си Цзиньпин или Виктор Орбан в Венгрии, видят для своих стран другой миропорядок: объединение стран с авторитарным управлением — стабильную систему с их точки зрения.
— Они хотят построить своего рода сеть дружественных крепостей, в которой каждая страна является замком с высокими стенами и заботится только о своих собственных традициях и интересах. Они не разделяют с другими странами ни ценностей, ни схожих институтов, но при этом живут с ними в мире. Для историков, однако, очевидно, что это нонсенс, потому что крепости никогда не бывают дружественными. Каждая крепость всегда хочет немного больше безопасности и процветания за счет своих соседей. А если у вас нет универсальных ценностей, институтов и законов, то это ведет к тотальной войне, что и происходит сейчас в мире.
— Вы тоже живете в стране, в которой ведутся подобные дискуссии. Вы неоднократно критиковали израильское правительство, говоря, что страна погружается в хаос. Уедете ли вы из Израиля в какой-то момент?
— Наверное, да. Я не верю, что люди — это растения. У нас нет корней. У нас есть ноги. Если посмотреть на историю человечества, люди двигаются, и я больше беспокоюсь о духе, чем о земле, о почве.
— Когда наступит это время?
— Если Израиль потеряет свой характер, свою душу, свои ценности, если он превратится в такую милитаристскую теократию, то это не то место, где я хотел бы жить. Самое важное сырье для моей работы — это свобода. Я не могу работать в стране, где свобода слова не защищена должным образом. И, к сожалению, нынешнее правительство делает всё возможное, чтобы разрушить основы израильской демократии. Но, опять же, это не детерминировано. Израиль — это не Биньямин Нетаньяху. Каждую неделю сотни тысяч израильтян выходят на улицы против его правительства.
— В каком регионе мира вы видите свободу, необходимую всемирно известному интеллектуалу?
— Я не в том положении, чтобы давать оценки другим странам. Но в любом случае Европа остается одним из самых свободных обществ в мире. Я бы хотел, чтобы европейцы больше ценили то, что у них есть, потому что они рискуют это потерять. Они не понимают, насколько это хорошо, потому что многие из них не жили в обществе другого типа. И я надеюсь, что европейцы позаботятся о том, чтобы не потерять то, что у них есть.
— Господин Харари, большое спасибо за интервью.
*Принадлежит экстремистской компании Meta, запрещенной в России.
Автор: Себастьян Маттес (Sebastian Matthes).
