Тэй пришла в Twitter с лучшими намерениями, но уже спустя несколько часов она стала злостным троллем. «Я ненавижу всех людей», — написала она. Далее: «Гитлер был прав. Я ненавижу евреев». И потом: «Буш сам инициировал теракты 9/11, а Гитлер сделал бы работу лучше, чем обезьяна, которая сейчас у нас есть». И наконец: «Наша единственная надежда — Дональд Трамп». Тэй стремительно радикализировалась. Пользователи ее любят. За короткое время она набрала 75 тысяч подписчиков и набрала бы еще больше, если бы ее создатели в один момент не нажали на тормоз и не удалили ее профиль. Потому что Тэй — не человек, а машина. Чат-бот, программный робот Microsoft, при помощи которого компания хотела показать, насколько продвинулись программы, как они могут общаться с людьми и учиться у них социальному общению.
Социальному общению Тэй действительно училась, но только в плохом смысле. Вместо того, чтобы высказывать истинное, прекрасное, хорошее, как надеялись программисты, она впитала худшие подстрекательские лозунги, которые смогла найти потому, что они настолько широко распространены в Twitter. Моральному восприятию Тэй, задуманная как тинэйджер, не училась — несмотря на все фильтры, установленные программой, которые должны были предотвратить впитывание и перепосты дурных комментариев и фотографий.
Случай Тэй показывает, какие границы существуют у искусственного интеллекта — и что закон Годвина не останавливается и перед ним. Американский адвокат Майк Годвин в 90-ые годы выдвинул тезис о том, что в ходе продолжительной дискуссии в сети с растущей вероятностью кто-то в один момент проведет сравнение с национал-социализмом, и, тем самым, дискуссия неминуемо обострится. Но это еще не самое плохое в случае Тэй. Самое плохое, что большая часть пользователей Twitter без вмешательства Microsoft не догадалась бы, что радикализировалась на самом деле компьютерная программа. Потому что ненависть, которую распространяла Тэй, была реальной.
Мнения, отличные от других, всегда на обочине
Все больше роботов, как Тэй, так называемые социальные боты, вторгаются со своими подстрекательскими комментариями в дискуссии читателей социальных сетей и направляют их по заказу тайных заказчиков в определенное русло. Компьютерные программы создают целые профили пользователей, наполняемые человечностью и вместе с тем, достоверностью. Роботы публикуют посты сначала о вымышленном завтраке, затем что-то не имеющее особого значения о своих «друзьях», и наконец, подстрекательские комментарии, например, о миграционном кризисе.
Социальный феномен «эхо-камеры», как его назвал американский социолог Касс Санстейн, тем самым еще усиливается. В соцсетях мы окружаем себя, в первую очередь, людьми, имеющими такие же взгляды, и как результат, другие мнения оказываются где-то на обочине и, находясь в «пузыре единомышленников», мы вскоре уже не воспринимаем их. Если эта тенденция подкрепится теперь еще и искусственным интеллектом, зловонная похлебка из подстрекательских лозунгов, недоваренных умозаключений и оскорблений станет еще более невыносимой.
Симон Хегелих, профессор политических наук Мюнхенского технического университета, занимается обнаружением и борьбой с социальными ботами. Чтобы выявить бота, он вместе со своей командой ищет повторяющиеся образцы. Он, в том числе, анализирует, сколько и в какое время выходят твиты, исследует геолокацию, серверные адреса и как часто происходят ретвиты. По этим и другим параметрам высчитывается статистическая вероятность того, идет ли речь о боте. По словам Хегелиха, он с вероятностью в 98 процентов может определить бота — это сейчас. Ведь боты стремительно учатся. Если большое количество однотипных постов долгое время считалось явным признаком робота, то сейчас искусственный интеллект делает определение бота все более затруднительным.
Боты из фабрики троллей
Точное количество ботов в соцсетях назвать невозможно, но их число крайне велико. До 20 процентов всех пользователей Twitter, по оценкам Хегелиха, могут быть социальными ботами — и тенденция стремительно растет. Facebook оценивает количество аккаунтов ботов во всем мире в 15 миллионов — огромное число, которое превращает социальные сети в ужасную питательную почву для государственной и террористической пропаганды. Хегелих обнаружил при оценке данных Twitter признаки 15 тысяч украинских ботов. Под хэштегом #ukraine они в ходе крымского кризиса публиковали ежедневно в среднем 60 тысяч твитов, в которых распространялась правоэкстремистская пропаганда. Хегелих полагает, что эти боты входят в организованные фабрики троллей, в которых целое войско оплачиваемых сотрудников целенаправленно вторгается в социальные сети и, в том числе, прибегает к помощи автоматизированных постов ботов.
Какой вред эта новая форма пропаганды может причинить, уже почувствовало на себе федеральное правительство. В июне прошлого года на новом канале канцлера в Instagram появились массовые комментарии российских пользователей, в которых на Меркель и Украину выливался ушат ненависти. Счета Instagram многих из этих пользователей состояли только из единственного имени пользователя, что указывает на то, что речь шла об атаке социальных ботов. Эксперты также уже давно говорят о том, что и «Исламское государство» прибегает к масштабным манипуляциям в социальных сетях для вербовки сторонников.
Хегелих: демократия в опасности
Последствия такого развития событий уже сейчас разрушительны, причем не только для социальных сетей, но и для всего интернета. Как можно обеспечить аутентификацию и гарантировать достоверность данных, если все поддается незаметным для широкой публики манипуляциям? Кому в интернете, вообще, можно доверять, если ежеминутно приходится опасаться, что то, что то, что ты сейчас видишь на своем мониторе, написано не человеком, а машиной, которая действует в интересах того или иного заказчика?
Хегерих даже видит опасность для демократии в случае, если политики будут иметь возможность искусственно влиять на настроения в Сети, выдавая их за «реальные» настроения населения. Проблема заключается в том, что пропаганда еще никогда не была настолько дешевой, как сейчас. Рынок фальшивых аккаунтов в Twitter переживает настоящий бум. При желании можно всего за 499 долларов обзавестись сразу 10 тысячами аккаунтов. Кому нужно еще больше, тот может воспользоваться искусственным интеллектом «друзей»-ботов. «Нет ничего проще, чем заполонить социальные сети „социальными ботами“. Для этого достаточно просто иметь в своем распоряжении пару хороших компьютерных специалистов», говорит Хегелих. В кибервойне в наше время могут участвовать не только сотрудники спецслужб — зачастую все сводится просто к «войне мнений» в социальных сетях.
Бороться с «социальными ботами» нелегко — можно даже сказать, что эта борьба практически безнадежна. Прежде всего, дело в бесконечном множестве аккаунтов в социальных сетях. Хегелиху и его команде требуется 15 минут на то, чтобы перепроверить 150 аккаунтов, так что всеобъемлющий контроль представляется совершенно невозможным. Да и даже если такого бота удастся вычислить и попробовать выяснить, откуда он управляется, следы будут вести вовсе не в Дортмунд или Мюнхен, а куда-нибудь на Украину, в Панаму или США. И поделать с этим ничего нельзя. «Социальные боты больше никогда не исчезнут, — считает Хегелих. — Даже если бросить на борьбу с ними все силы».
«Образованные люди отворачиваются от социальных сетей»
Борьба с ботами заставляет задуматься также о моральном аспекте и поднимает новые, еще более важные вопросы. Ведь как можно предотвратить ситуацию, когда аккаунты реальных пользователей, профили которых в социальных сетях как-то выделяются на фоне общей массы, будут закрываться какими-то специальными программами по борьбе с ботами, потому что эти программы будут считать, что имеют дело не с людьми, а с ботами? Получается замкнутый круг: либо всеми возможными средствами будет вестись борьба с ботами, и «под удар» случайно будут попадать реальные пользователи, либо ботам уже будет позволено быть ботами, но тогда в дело пойдут специальные службы, действующие по отношению к ботам иначе — например, социальная сеть Slack.
Обнаруживая некие специфические действия пользователя, Slack подозревает, что это бот, и определенным образом отмечает соответствующий пост — и тогда посты, опубликованные ботами, отличаются от постов, опубликованных реальными людьми. Совсем предотвратить деятельность ботов, правда, не получится, но частично помешать им все же можно. «Если количество идиотского контента, распространяемого ботами, станет слишком большим, люди рано или поздно просто отвернутся от Facebook или Twitter, — уверен Хегелих. — Никому не понравится видеть в соцсетях один лишь мусор».
Еще дальше заходит футуролог Маттиас Хоркс (Matthias Horx). По его мнению, нарастающая радикализация настроений заставит пользователей отвернуться не только от социальных сетей, но и от интернета вообще. Хоркс называет это «цифровой обратной реакцией» (digital backlash): «Чем хуже будет становиться интернет, тем больше людей изменят свои коммуникативные привычки и отдалятся от него». Это станет своеобразным «оффлайн-трендом», сравнимым со всеобщим отказом от употребления в пищу жира или от промышленного содержания животных. После этого, по мнению Хоркса, начнется новое, «просвещенное» сближение с интернетом, когда пользователи будут более привержены своеобразной саморефлексии и не будет поддаваться былой эйфории от самого факта наличия интернета в их жизни. По словам Хоркса, этот тренд постепенно становится все заметнее уже сейчас. «Образованные люди уже отворачиваются от социальных сетей», — утверждает он.
Интернет как «трактир»
Таким образом, безграничная, но в первую очередь, внеклассовая Сеть, какой ее себе представляли отцы-основатели, когда-нибудь вполне может остаться в прошлом или распасться на различные сферы: на одном краю окажется так называемая «темная сеть» — некое пространство, в котором уже сейчас присутствуют такие вещи как торговля наркотиками, детская порнография и безграничная жестокость. Параллельно с ним существует этакий Internet vulgaris, открытый широкой публике, но в значительной степени подверженный популистским течениям и пропаганде, из-за чего «просвещенные», хорошо образованные пользователи обращают на него не слишком много внимания. И, наконец, есть интернет высших кругов, которые всегда вращаются несколько обособленно от широких масс и отдаляющиеся от них еще сильнее по мере роста «грязи» и манипуляций в виртуальном пространстве.
Хоркс сравнивает нынешнее состояние интернета с начальной стадией появления трактиров: там тоже поначалу постоянно происходили драки, но постепенно установился некий порядок ведения хозяйства, и три четверти трактиров, где происходили драки, в итоге исчезли. По мнению Хоркса, через десять лет для Facebook, Twitter и им подобных «найдутся некие варианты разумного применения», потому что интеллигентные люди к тому моменту потеряют интерес к нынешним новомодным «штучкам».
Это взгляд в будущее, который кому-то может показаться наивным, а может быть, просто настолько оптимистичным, насколько этого требуют «силы самооздоровления» Сети. Ведь когда интернет только появился, пользователи были абсолютно убеждены в том, что рано или поздно произойдет саморегуляция этой «великой и ужасной Сети», и она будет существовать на благо человечества. Впрочем, тогда они еще не знали Тэя.
