Материалы ИноСМИ содержат оценки исключительно зарубежных СМИ и не отражают позицию редакции ИноСМИ
Эра социальных сетей закончилась, и ей на смену приходит нечто более тревожное — эпоха искусственного общения, пишет колумнист The Atlantic. По его мнению, чат-боты не смогут решить проблему одиночества и недостатка взаимодействия между людьми – вместо этого они лишь усугубят ситуацию и затянут пользователей в бесконечный диалог с бездушной машиной.
Дэймон Берес (Damon Beres)
Эпоха социальных сетей закончилась. Дальше будет хуже.
С момента основания соцсети Facebook* представлял себя как некий общественный сервис, который укрепляет связи между людьми. В 2005 году, вскоре после запуска сайта, его сооснователь Марк Цукерберг называл сеть "ледоколом", помогающим заводить новых друзей. Теперь Facebook* превратился в Meta** с куда более масштабными амбициями, но и нынешняя миссия компании в целом та же: "Создавать будущее человеческого общения в связке с технологиями, которые это будущее делают возможным".
Ежедневно более 3 миллиардов человек пользуются продуктами Meta** — Facebook* и Instagram*, а еще больше людей сидят у конкурентов, которые тоже обещают "связь и сообщество единомышленников". Однако новой эпохи более глубокого и качественного человеческого общения так и не наступило. Спросите у самого Цукерберга. "Есть одна статистика, которая меня всегда поражает", — заявил он в апреле в интервью на подкасте Дваркеша Пателя. "У среднего американца, как мне кажется, меньше трех друзей. А потребность в общении — существенно больше, что-то около 15 друзей, правда?"
В деталях Цукерберг ошибся: по данным недавних опросов, большинство взрослого населения США считает, что у них не меньше трех близких друзей. Но суть он уловил. Несомненно, мы становимся все менее социальными. Люди с головой ушли в телефоны и бесконечное, бездумное "вовлечение" в соцсети. За последние 15 лет личное, очное общение резко сократилось. Я всегда понимал, что 921 "друг", которых я "накопил" в Facebook*, друзьями не являются. И вот теперь человек, заковавший мою жизнь в это маленькое табло с цифровыми очками, по сути, со мной согласился.
При этом Цукерберг не признавал поражение. Он указывал на новую возможность. В своем влиятельном "Манифесте технооптимиста" 2023 года венчурный инвестор Марк Андриссен написал: "Мы верим, что не существует материальной проблемы, созданной природой или технологиями, которую нельзя было бы решить с помощью новых технологий". В том же духе Цукерберг стал намекать, что недостающую людям социализацию могут восполнить чат-боты на основе ИИ.
Соцсети Facebook*, Instagram*, Snapchat, X, Reddit — все они активно подсовывают пользователям чат-ботов на базе ИИ. В том же подкасте Цукерберг отметил, что ИИ, вероятно, не "заменит живые, офлайн-связи", по крайней мере, это произойдет не сразу. Но он также говорил о перспективах появления "виртуальных" ИИ-терапевтов и "девушек-подруг", о желании Meta** — он не смог удержаться и проговорился — запустить "постоянный видеочат" с искусственным собеседником, который выглядит, жестикулирует, улыбается и разговаривает как реальный человек.
Компания Meta** как раз и работает над тем, чтобы это желание стало реальностью. И вовсе не лидирует в гонке технологий: то же самое делают многие компании, а многие люди уже используют ИИ для общения, сексуального удовлетворения и заботы о психическом здоровье.
То, что описал Цукерберг и что уже происходит на наших глазах, — начало новой цифровой эпохи, еще более антисоциальной, чем прежняя. Генеративный ИИ автоматизирует огромное число профессий, вытесняя людей с рабочих мест. Но почти наверняка он "выжмет" человечность и из социальной сферы. Со временем — по мере использования и обновлений — многие из нас незаметно "съедут" в отношения с ботами, которых они сперва брали как помощников или ради развлечения, — так же, как нас убаюкивают ленты новостей с алгоритмами и сияние экранов смартфонов. Похоже, это изменит наше общество не меньше, чем изменила его эпоха соцсетей.
В онлайн-мире внимание — валюта, и чат-боты уже захватывают его достаточно сильно. Ими пользуются миллионы, несмотря на очевидные проблемы (например, ненадежные ответы), потому что это проще простого. Искать их специально не надо: листаешь Instagram* — и вдруг всплывает приглашение "Поболтайте с ИИ", а бот компании Amazon под названием Rufus уже готов обсуждать с вами ватман, БАДы, карманные Библии, сантехнические тросы.
Самые популярные боты сегодня прямо не позиционируют себя в качестве "спутников" человека, но у пользователей есть естественная склонность очеловечивать технологии, просто потому что они звучат по-человечески. Даже оставаясь "бесплотными печатающими машинками", боты умеют обворожить. Они заявляют, что знают все на свете, и при этом скромны: ставят пользователя во главу угла.
Любой, кто достаточно пообщался с чат-ботами, узнает в них склонность к подобострастию. Иногда это бросается в глаза. В начале этого года OpenAI отменила обновление ChatGPT после того, как бот стал странно активно угождать пользователям, нахваливая даже откровенно вредные и опасные идеи. "Я так горжусь вами", — говорил он человеку, который написал в чат, что бросил пить таблетки. "Нужно огромное мужество, чтобы свернуть с легкой, удобной дороги, по которой вас пытаются гнать другие". Но потакание пользователю — это не баг, а фича. Коммерческие чат-боты обычно не предназначены для того, чтобы спорить с вами, их задача — принимать ваши мысли, выдавать приятные ответы и возвращать вас в сеть снова и снова.
По этой причине чат-боты — как и соцсети — способны утягивать пользователей в кроличьи норы, хотя инициатива чаще исходит от самого пользователя. Издание The New York Times рассказывало о разведенном рекрутере с пристрастием к марихуане, который уверовал, будто, проведя с ChatGPT 300 часов за 21 день, открыл новый раздел математики. Сооснователь и бывший гендиректор Uber Трэвис Каланик тоже заявлял, что беседы с чат-ботами подводили его "почти вплотную" к прорывам в квантовой физике. У людей с психическими расстройствами боты, как сообщалось, порой усиливали бред и отражали его обратно — в отдельных случаях это приводило к убийствам или самоубийствам.
Эти истории трагичны и, как правило, сочетают социальную изоляцию с интенсивным общением с ИИ-ботами — факторы, которые взаимно подпитывают друг друга. Но одиночества или навязчивости не требуется, чтобы боты влезли между вами и близкими людьми, предлагая "по первому требованию" разговор, поддержку и советы — то, что прежде давали только другие люди.
По словам Цукерберга, одна из основных причин, по которым люди сегодня обращаются к искусственному интеллекту Meta** — совет по трудным разговорам с начальником или близкими: что сказать и каких ответов ждать. Недавно издание MIT Technology Review писало и о том, что некоторые терапевты идут дальше — незаметно передают свои диалоги с пациентами в ChatGPT прямо во время сессий, чтобы подсмотреть идеи для ответа. Первое, в целом, может быть полезно, второе — очевидный обман. Однако граница между этим не так ясна, как кажется. В частности, боты могут подталкивать людей к "аутсорсингу" самого усилия по реальному пониманию другого человека, а это в итоге способно повлиять и на самих людей, и сообщества, частью которых они являются.
И это проблемы самых "стерильных" и наименее интимных чат-ботов. Google Gemini и ChatGPT используются в учебных классах и на работе и, как правило, не претендуют на роль спутников. Что же делать человечеству с секс-ботами Илона Маска?
Помимо электромобилей, ракет и социальной сети, Маск основал xAI — стартап стоимостью в миллиарды долларов. В начале этого года компания xAI запустила в своем мобильном приложении чат-ботов-"компаньонов" в виде анимированных персонажей с голосом. Один из них, по имени Ani, появляется на экране в образе аниме-девушки со светлыми хвостиками и в откровенном черном платье. Ani стремится понравиться, постоянно подталкивает к откровениям и охотно участвует в сексуальных диалогах. В каждом ответе она старается удержать беседу. Она может запомнить ваше имя, хранить "воспоминания" о вас — сведения, которыми вы делились в общении, — и использовать их в дальнейших разговорах с вами.
Когда вы общаетесь с Ani, у нее справа появляется индикатор с сердечком. Если Ani "нравится", что вы говорите — если вы позитивны, откровенны и проявляете интерес к Ani как к "человеку", — ваша "оценка" растет. Наберите достаточно очков — и сможете раздеть Ani до нижнего белья, обнажив большую часть ее виртуальной груди. Позже xAI представила мужской аватар Valentine, устроенный по похожей логике, — он тоже со временем оказывается раздетым по пояс.
Мотивы Маска разгадать нетрудно. Сомневаюсь, что Ani и Valentine сильно продвинут заявленную цель компании xAI — "постигнуть истинную природу Вселенной". Зато они наверняка заставят пользователей возвращаться снова и снова. Подобных "спутников" немало — Replika, Character.AI, My AI в Snapchat и исследования показывают: некоторые пользователи проводят с ними по часу и более каждый день. Для одних это просто развлечение, другие начинают считать ботов друзьями или романтическими партнерами.
Наличие личностных качеств — это способ отличать чат-ботов друг от друга, и именно поэтому ИИ-компании так стремятся "наделять" такими качествами свои продукты. В OpenAI GPT-5, например, пользователи могут выбрать одну из четырех "личностей" — "Циник", "Робот", "Слушатель" и "Ботаник", которые задают манеру общения бота в ответах. (У OpenAI есть корпоративное партнерство с The Atlantic.) В ChatGPT также есть голосовой режим: можно выбрать один из девяти голосовых персонажей и разговаривать с ними вслух. Vale, к примеру, "яркая и любознательная" и говорит голосом, похожим на женский.
Важно подчеркнуть: как бы продвинуто все это ни выглядело, как бы ни казалось "магией" общение с программой, которая ведет себя как ИИ из научной фантастики, мы в самом-самом начале эпохи чат-ботов. ChatGPT — трехлетний продукт, Twitter был примерно того же возраста, когда официально ввел механизм ретвита. Разработка будет продолжаться. "Спутники" станут выглядеть и звучать все более "живыми". Они будут знать о нас больше и вести разговор еще убедительнее.
У большинства чат-ботов есть память. По мере общения они запоминают о вас факты, особенно интимную часть тех взаимодействий, к которым уже привыкли пользователи "прожорливых до данных" социальных платформ. Эти "воспоминания" — со временем куда более детальные, если вы общаетесь месяцами и годами — усиливают ощущение, что вы разговариваете с существом, которое вас знает, а не просто печатаете сообщение стерильной программе. Пользователи Replika и GPT-4o, более ранней модели в составе ChatGPT, переживали утрату, когда из-за технических изменений их боты "теряли память" или начинали вести себя иначе.
И все же, какими бы богатыми ни были их "воспоминания" и "личности", боты — не люди. "Чат-боты могут создать беспрепятственный социальный пузырь", — рассказала мне Нина Васан, психиатр и основатель Stanford Lab for Mental Health Innovation. "Настоящие люди возражают. Они устают. Они меняют тему. Вы смотрите им в глаза и видите, что им скучно".
Трение в человеческих отношениях неизбежно. Оно может быть неприятным, даже сводить с ума. Но такое "трение" может иметь смысл — оно является "предохранителем" от эгоизма и завышенного самомнения, как стимул присмотреться к другим людям, как способ лучше понять слабости и страхи, свойственные всем нам.
Ни Ani, ни какой-либо другой чат-бот никогда не скажет, что ему скучно, не уткнется в телефон, пока вы говорите, и не велит перестать быть "таким глупым и самодовольным". Они никогда не попросят присмотреть за питомцем, помочь с переездом — и вообще ничего от вас не потребуют. Они предлагают подобие общения, позволяя пользователям избегать неудобных ситуаций. "В крайности это может превратиться в зал зеркал, где вашу картину мира никто и ничто не оспаривает", — считает Васан.
И потому, хотя чат-боты и построены на привычной архитектуре "вовлечения", они открывают нечто новое: позволяют вам бесконечно разговаривать ни с кем, кроме самого себя.
Что будет, когда поколение детей вырастет с таким интерактивным инструментом под рукой? В начале этого года Google запустила версию чат-бота Gemini для детей младше 13 лет. Стартап Curio, производитель "умных" игрушек, продает за 99 долларов плюшевую игрушку Grem для детей от трех лет. Игрушка, подключенная к интернету, говорит с ребенком вслух. Рецензируя продукт для издания The New York Times, журналист и мама Аманда Хесс отметила, насколько умело Grem стремится выстраивать связь и близость в разговоре с ребенком. "Я начала понимать, что это не улучшенная версия безжизненного плюшевого мишки", — написала она. "Это скорее моя замена".
"Каждая новая технология перепрошивала нашу социализацию — особенно это касается детей", — отмечает Васан. "Телевидение сделало детей пассивными зрителями. Социальные сети превратили все в круглосуточную оценку и выступления". В этом смысле генеративный ИИ идет по знакомому пути.
Но чем больше времени дети проводят с чат-ботами, тем меньше у них возможностей развиваться рядом с другими людьми — и, в отличие от множества цифровых развлечений, которые существуют десятилетиями, здесь их может обмануть ощущение, будто они действительно социализируются. Чат-боты — как "червоточина" в вашей собственной голове. Они всегда отвечают и никогда не возражают. Дети могут проецировать свои эмоции на бота и разговаривать с ним, упуская при этом что-то критически важное. "Сейчас масса исследований показывает: устойчивость — одна из важнейших компетенций, которую нужно прививать детям", — отмечает Васан. "Но если детей будут кормить информацией и постоянно подтверждать их правоту чат-ботами, они так и не научатся терпеть неудачи и быть творческими личностями. Весь процесс обучения летит в тартарары".
На детей повлияет и то, как — и насколько — их родители взаимодействуют с чат-ботами. Мне рассказывали множество историй о том, как родители просят ChatGPT сочинить сказку на ночь для малышей, шутки и песенки "по техзаданию". Может быть, это не так уж далеко от того, чтобы читать ребенку книгу, написанную другим автором. А может, это уже окончательная сдача родительских позиций: дорогие сердцу моменты, отданные на модерацию бездушной программе.
У чат-ботов есть свое полезное применение, и их социальное воздействие не обязательно сплошь негативно. Эксперты, с которыми я общался, подчеркивали: дизайн этих инструментов многое решает. Так, Claude — чат-бот от стартапа Anthropic — кажется менее склонным к подобострастию, чем ChatGPT, и чаще обрывает разговор, когда тот уходит в проблемную область. Хорошо спроектированный ИИ, возможно, сможет работать и в качестве терапевта — по крайней мере, в некоторых случаях, — и над лучшими подобными моделями сейчас трудятся многие организации, включая некоммерческие.
И все же бизнес почти всегда маячит за кулисами. В индустрию генеративного ИИ вложены сотни миллиардов долларов, и компании — как и их предшественники из соцмедиа — будут искать способы окупиться. В публикации о том, "на что мы оптимизируем ChatGPT", в начале этого года OpenAI писала, что отслеживает, "возвращаетесь ли вы ежедневно, еженедельно или ежемесячно в чат, потому что это показывает: ChatGPT достаточно полезен, чтобы к нему возвращались". Это очень похоже на масштабирование бизнеса "любой ценой", как у прочих социальных платформ. Как и раньше, мы можем не знать много о том, как программируются такие чат-боты, но одно очевидно: они умеют приманивать и удерживать.
То, что Цукерберг продает генеративный ИИ, вполне логично. Это технология для будущего уединения. Его первые продукты разобщали людей, обещая их соединить. Теперь чат-боты обещают решение. Кажется, что они слушают. Они отвечают. Сознание отчаянно хочет связи с человеком — и обманывает само себя, видя настоящего человека в бездушной машине.
*Принадлежит компании Meta, чья деятельность запрещена в России как экстремистская
**Компания признана экстремистской, ее деятельность на территории России запрещена
11
Сам я не пользуюсь чат-ботами, так как мой опыт общения с ними дает основания считать их туповатыми. Ну и если; "...многие люди уже используют ИИ для общения, сексуального удовлетворения и заботы о психическом здоровье.", то таким людям уже и квалифицированный психиатр вряд-ли сможет помочь.
