Недавно я принял участие в однодневном симпозиуме на тему фальшивых новостей, который состоялся в одном из ведущих юридических вузов США. К концу дня участники этого представительного мероприятия в составе авторитетных экспертов, в том числе, представителей Google, Microsoft, New York Times и Buzzfeed не смогли даже согласовать определение фальшивых, или фейковых новостей. Что еще хуже, любое предложение о контроле и регулировании этих не поддающихся дефиниции новостей немедленно отвергалось.


Так что же нам думать о новых усилиях компаний Google и Facebook по применению алгоритмов с целью защиты общества от информационного фальсификата?


На мой взгляд, нам не надо их бояться, и они не должны производить на нас никакого впечатления.


Бояться не надо по той простой причине, что фейковые новости это на самом деле не проблема, как считает большинство людей. Хотя информационные вбросы о Хиллари Клинтон в ноябре прошлого года очень быстро разошлись по интернету, и могли лишить ее многих голосов, в общем плане фальшивые новости не представляют серьезной угрозы для демократии. На то есть две причины.


Фальшивые новости похожи на рекламу


Во-первых фейковые новости участвуют в конкуренции. Они как рекламные щиты и телевизионные рекламные ролики. В рекламе тоже много неправды и ложных утверждений. На каждую вашу фальшивую новость обо мне я могу разместить две фальшивых новости о вас. Я могу также разместить в сети правдивые истории, чтобы поправить свою репутацию, или даже правдивые истории с разоблачением информационных вбросов, которые разместили вы. Знакомая картина? Обливание грязью это неотъемлемая черта политики, и так будет всегда. И никакими алгоритмами это не остановишь.


Но разве стремительное распространение фейковых новостей в интернете это не новый тип угрозы? Абсолютно нет. Как я уже говорил, фейковые новости участвуют в конкуренции, а поэтому их быстрое распространение работает на все стороны. Изначально они не дают выгод одной стороне над другой, хотя недавно они могли помочь республиканцам. Да, штаб Клинтон оказался не готов противодействовать наплыву фальшивых новостей, которые перед выборами 2016 года распространяли подростки из Македонии. Но мне кажется, что ни один серьезный предвыборный штаб больше не допустит такую ошибку.


Скорость распространения фальшивок сама по себе не проблема. Мы ошибочно полагаем, что стремительное распространение идей или информации это новое явление, ставшее возможным только недавно из-за развития интернета. Мы почему-то забыли, что еще задолго до изобретения интернета новости и ложные слухи распространялись в обществе молниеносно. Это и сообщения о крахе фондового рынка в 1929 году, и новость о победе над Германией и Японией в 1945-м, и информация об убийстве Джона Кеннеди в 1963-м. 19 марта 1935 года появился совершенно беспочвенный слух об избитом ребенке, который очень быстро распространился по Гарлему в Нью-Йорке и привел к широкомасштабным беспорядкам, гибели многих людей и к материальному ущербу на миллионы долларов. Люди любили посплетничать еще задолго до изобретения всемирной паутины и социальных сетей.


Фальшивые новости заметны


Во-вторых, информационные вбросы это весьма заметные попытки влияния. Когда мы обнаруживаем в ленте новостей Facebook или в поисковике Google какую-нибудь историю типа той, что Хиллари Клинтон марсианка, нам вполне понятно, что на нас оказывается влияние. Эта история прямо у нас перед глазами, как газета, рекламный щит или телевизионный рекламный ролик. Видимые источники влияния воздействуют на людей вполне предсказуемо. Люди обращают внимание на информацию, которая подтверждает их убеждения и предубеждения. А остальное они игнорируют либо отвергают.


Гораздо опаснее влияние нового типа, которое люди не замечают. В последние годы я обнаружил, и сейчас изучаю новые источники онлайнового влияния, такие как манипуляционный эффект поисковых систем (Search Engine Manipulation Effect) и эффект вариантов поиска (Search Suggestion Effect), которые большинству людей совершенно незаметны. Это влияние беспрецедентно в человеческой истории. Необъективное поисковое ранжирование может оказать исключительное воздействие на мнение людей, их покупки, предпочтения при голосовании. То же самое делают подсказки мгновенного поиска, которые мы видим, когда начинаем печатать искомое слово в строке поиска Google. Влияние этого типа абсолютно не похоже на влияние от рекламы или от фальшивых новостей, потому что практически никто не видит эту необъективность. А когда люди не видят источник влияния, они по ошибке приходят к выводу, что самостоятельно делают выбор и принимают решение. Еще хуже другое. Те немногие люди, кто замечает предвзятость и необъективность в результатах поиска, имеют обыкновение еще больше склоняться в пользу такой предвзятости и необъективности. Так что, если вы в состоянии заметить необъективность, это отнюдь не защищает вас от нее.


Фальшивые новости вызывают тревогу; они могут ежедневно воздействовать на умы сотен тысяч и даже миллионов людей. Но давайте посмотрим на это шире: необъективность результатов и вариантов поиска может оказывать воздействие на миллиарды людей ежедневно, причем сами они об этом не знают. Фейковые новости как средство влияния в этом плане просто мелочь.


Если у вас есть сомнения, задумайтесь об одном простом методе манипулирования, которое имеет в своем распоряжении Facebook. Это конкретно ориентированные послания одной демографической группе. Если бы в 2016 году эта компания направила сторонникам одной политической партии напоминание типа «Регистрируйтесь и голосуйте!», или если бы в день голосования она направила им другое напоминание вроде «Идите и голосуйте!», кандидат от этой партии получил бы на несколько миллионов голосов больше, и никто бы при этом ничего не понял. Даже газетный магнат Уильям Рэндольф Херст, и тот не мог даже мечтать о такой власти: целевые послания в огромных масштабах, которыми управляют руководители одной-единственной компании, не имеющей конкурентов.


Что пугает


Поскольку фальшивые новости видны и участвуют в конкуренции, я не считаю это явление особенно страшным. Но меня пугает мысль о том, что такие хищнические корпорации как Google и Facebook будут сами определять, что такое фальшивые новости, когда станут решать, какие материалы отвечают их критериям. После этого они смогут назвать некоторую информацию подозрительной, а в крайнем случае даже удалить ее.


Как я выяснил во время симпозиума, вряд ли какая-нибудь группа разумных и здравомыслящих людей договорится когда-нибудь об определении фальшивых новостей. А раз так, свое определение я предлагать не стану. Но чтобы вам стало понятнее, насколько серьезна эта проблема, задумайтесь над следующими вопросами:


Новость фальшива просто из-за того, что в ней что-то представлено неверно? Насколько неверным должен быть представленный материал, чтобы мы могли назвать его фальшивкой? 20% сообщенной информации? 50%? Но насколько верна правдивая часть новости?


Правомерен или недопустим правдивый материал, опубликованный липовым новостным сайтом, скажем, таким, авторы которого делают вид, будто входят в состав средства массовой информации, которое не существует? Помним, что материал этот правдивый, а фальшивой является только распространяющая его новостная организация. Что делать: опубликовать новость или забыть о ней?


Если правдивые новости публикует новостной сайт (скажем, Sputnik), который связан с враждебным государством (скажем, с Россией), то что это — подлинная новость или фальшивка? Я задаю этот вопрос отчасти из-за того, что когда я недавно опубликовал на Sputnik статью, ведущие информационные агентства США незамедлительно отвергли ее, хотя я абсолютно точно и верно рассказал о своем новом исследовании на тему ввода с автодополнением, какой существует у Google.


Фальшива ли новость из-за того, что она тенденциозна и однобока, и освещает только одну точку зрения? Если да, то разве не фейк некоторые новости, которые публикуют Fox News и The New York Times? И разве не надо автоматически удалять все новости, публикуемые на сайте Breitbart?


Можно ли назвать фальшивыми новостями сатиру? Является ли фейком тот материал, который я опубликовал в прошлом году? Там идет речь о том, что Google пожертвовал свой поисковик американскому обществу. Эту новость надо с презрением отвергнуть? И как алгоритм сможет отличить фальшивую новость от сатиры, если этого не может сделать большинство людей?


На том симпозиуме участники обсуждали и другие мотивы. Эти подростки из Македонии могли быть агентами Кремля, но когда они сочиняли свои странные истории про Хиллари Клинтон, им на самом деле хотелось легких денег. Насколько серьезно мы должны воспринимать этих людей? Надо ли привлекать их к суду за попытку повлиять на выборы в другой стране? И коль уж на то пошло, действительно ли они пытались повлиять на выборы? А может, они просто хотели срубить денег?


Используем ли мы людей или алгоритм (это просто набор правил, написанных людьми) в попытке найти ответ на эти вопросы, тот вопрос, который в целом вполне понятен (распространение фальшивых новостей), превращается в кошмарный набор проблем, от которых голова идет кругом.


Первое — это ложная позитивная проблема. Если вы или ваш алгоритм правильно вычисляет и удаляет фальшивую новость (я говорю об этом условно, потому что у нас нет даже определения фальшивых новостей), это называется истинно положительный результат. То есть, это верное опознание того, что вы ищете. А что, если вы по ошибке назвали правдивую новость фальшивкой? Это называется ложно положительный результат, и с точки зрения общественно-государственной политики это катастрофа, подобная ложно положительному результату при обследовании на рак. Вы заявили обществу, а может, и всему миру, что правдивая новость это неправда. Может быть, вы даже удалили ее из новостных лент, чтобы эту информацию никто в мире больше не увидел.


Большую часть жизни я проработал программистом. Поэтому я даю вам гарантию, что любая система алгоритмов, призванная уничтожать фальшивые новости, неизбежно даст ложно положительный результат. В каком тогда случае угроза уничтожения правдивых новостей опаснее, чем наше решение дать фейковой новости право на существование?


Второе — это проблема власти. Может, вы этого не заметили, но у таких компаний как Google и Facebook уже слишком много власти. Хотим ли мы дать им еще один тип власти — власть решать, какие новости правдивы и имеют право на существование, а какие нет?


Единственная хорошая новость во всем этом следующая. Если данные компании будут и дальше создавать агрессивные программы по пресечению ложных новостей, они вполне могут попасть в перекрестье прицела регулирующих органов. Пока Google, Facebook и им подобные компании пользуются защитой статьи 230 американского Закона о соблюдении приличий в коммуникациях, который гласит: «Провайдер или пользователь интерактивного компьютерного сервиса не может считаться издателем или распространителем информации, предоставленной другим провайдером информационного контента». Иными словами, Google и Facebook не несут никакой ответственности за то, что показывают, так как авторы контента не они. Они просто посредники, а не издатели.


Но чем более явно такие компании начинают действовать в роли издателя, выбирая, какие новости правда, а какие нет, тем меньше их защищает статья 230. Как я уже отмечал в своей статье The New Censorship (Новая цензура), Google на сегодня является самым крупным цензором. Он действует в качестве супер-редактора, принимая решения о публикации или ликвидации новостей. Таким образом, его цензорская роль становится все более очевидной для регуляторов, законодателей и судей.


Борьба технологий. Более 10 лет назад Google изложил этот закон и по сути заявил: «Как вы осмелились обмануть наш поисковый алгоритм и принудить его ставить ваш дерьмовый вебсайт выше в рейтингах поиска? Да мы раздавим вас как клопа». Что сделали в ответ специалисты по оптимизации поиска, в задачи которых входит поднимать ваш бизнес вверх в поисковом ранжировании — разбежались по норам и тихо умерли? Ничего подобного. На самом деле, к началу 2016 года отрасль оптимизации поиска оценивалась в бизнесе в 65 миллиардов долларов в год. Похоже, что обманывать Google очень выгодно. Google приспосабливает поисковый алгоритм для собственной защиты от таких махинаций, а махинаторы в ответ изобретают еще более совершенные алгоритмы для его обмана.


Я говорю об этом, потому что то же самое произойдет с алгоритмами, при помощи которых будут предприниматься попытки пресекать фальшивые новости. Люди, которые хотят их распространять, просто придумают новые программы, чтобы обойти алгоритмы.


Эффект Трампа. Помните, как Дональд Трамп превратил ведущие средства массовой информации во «врагов народа»? Как бы Google и Facebook ни пытались заклеймить позором фейковые новости, таким лидерам как Трамп все равно будет принадлежать решающее слово в том, насколько серьезно народ будет воспринимать истории такого рода. Если демагог говорит своим последователям, что верить можно только службе новостей «Идиотбург», результатом работы алгоритма, относящего ее сообщения к фейку, станет лишь то, что эта служба привлечет к себе больше внимания. А демагог будет с полным на то основанием ругать «цензуру» и «гнет».


Фальшивые новости вызывают беспокойство, и в этом нет никаких сомнений. Но они всегда были, есть и будут. И если позволить крупным и безнадзорным компаниям информационных технологий управлять новостным фейком, то есть, управлять нашими с вами новостями, это нанесет гораздо больше вреда, чем сами фальшивые новости.


Роберт Эпштейн — психолог, старший научный сотрудник Американского института исследования поведения и технологий (American Institute for Behavioral Research and Technology), расположенного в Висте, штат Калифорния. Эпштейн написал 15 книг об искусственном интеллекте и о других вопросах. В прошлом он работал главным редактором журнала Psychology Today.