Ее зовут Фрэнсис Хауген. Facebook жаждал узнать это имя с прошлого месяца, когда некий анонимный бывший сотрудник компании направил жалобы в федеральные правоохранительные органы. В жалобах говорится, что, согласно проведенному компанией собственному исследованию, она способствует разжиганию ненависти и политических беспорядков, а также распространению дезинформации, но при этом тщательно все скрывает. В одной жалобе утверждается, что зарегистрированный на платформе Facebook Instagram имеет пагубное воздействие на девочек-подростков. Беспрецедентными жалобы Хауген делает то, что перед увольнением в мае она собрала и скопировала подтверждающие данное исследование документы. Впервые они были обнародованы «Уолл-стрит джорнэл» в прошлом месяце. А теперь Фрэнсис Хауген решила раскрыть свою личность и объяснить, что сподвигло ее стать разоблачительницей компании Facebook.
Фрэнсис Хауген: В Facebook я снова и снова наблюдала конфликт интересов между тем, что было хорошо для общества, и тем, что было хорошо для Facebook. И каждый раз Facebook выбирал самое выгодное решение для своих собственных интересов. Одним из мотивов было желание заработать больше денег.
Трудовая биография
37-летняя Фрэнсис Хауген является специалистом в области обработки данных из штата Айова с дипломом в области компьютерной инженерии и степенью магистра Гарвардского университета по специальности «менеджмент». В течение 15 лет она работала в таких компаниях, как Google и Pinterest.
Хауген: Я видела кучу социальных сетей, но у Facebook дела обстояли значительно хуже, чем у всех, с кем я сталкивалась.
Скотт Пелли: Знаете, другой бы просто уволился и стал двигаться дальше. Почему вы решили действовать иначе?
Хауген: Представьте, что вам известно происходящее внутри стен Facebook, а никому из посторонних это неведомо. Я знала, каким будет мое будущее, останься я в компании, ведь узнавая обо всем, люди один за другим стали бы просто делать вид, что ничего не произошло.
Пелли: Когда и как вам пришло в голову собрать все эти документы?
Хауген: В какой-то момент я сказала себе: «Хорошо, я должна сделать это, причем охватить как можно больше данных, чтобы никому и в голову не пришло усомниться в их подлинности».
Крот-расследовательница действует и копирует
Она тайно скопировала десятки тысяч страниц внутренних исследований компании Facebook. По ее словам, налицо доказательства того, что компания лжет общественности о своем значительном прогрессе в борьбе с разжиганием ненависти, оскорблениями и дезинформацией. В одном из обнаруженных ею в этом году исследований говорится: «По нашим оценкам, мы можем влиять на уровень ненависти в пределах 3-5% и примерно на 0,6% увеличивать уровень V&I (violence and incitement — насилия и подстрекательства) в Facebook, несмотря на то, что в этом мы лучшие в мире».
Пелли: Цитирую еще один из документов, которые вы представили: «У нас есть доказательства, полученные из различных источников, что высказывания, разжигающие ненависть, политические выступления и дезинформация в Facebook и других наших приложениях влияют на общества по всему миру».
Хауген: Существование в информационной среде, полной гневного, аморального и поляризующего контента подрывает наше гражданское доверие, разрушает нашу веру друг в друга, нашу способность хотеть заботиться друг о друге. Существующая на сегодняшний день версия Facebook раздирает наши общества и способствует этническому насилию в масштабах всей планеты.
«Этническое насилие» включает события 2018 года в Мьянме, где военный режим использовал соцсеть Facebook для разжигания ненависти к народности рохинджа.
Отомстила за друга
Фрэнсис Хауген поведала, что устроилась в компанию Facebook в 2019 году, но согласилась на эту работу только c условием, что ей дадут бороться с дезинформацией, поскольку из-за муссировавшихся в Интернете теорий заговора ей довелось потерять близкого друга.
Хауген: Я никогда и никому не пожелаю испытать ту боль, что пережила я. И я видела, сколь высоки ставки в плане обеспечения высокого качества информации на Facebook.
В офисе ее назначили сотрудником отдела гражданской этики, который оценивал связанныt с выборами риски, включая дезинформацию. Поворотный момент наступил после тех выборов.
Хауген: Нам сказали, мол, отдел гражданской этики распускается. По факту это звучало как «Отлично, выборы прошли, беспорядков не было, теперь в этом отделе необходимости нет». Прошла пара месяцев, и произошел захват Капитолия. В момент ликвидации моего отдела у меня проскочила мысль: «Я не верю в их стремление прикладывать все возможные усилия, чтоб сделать Facebook менее опасной платформой».
В Facebook сообщают, что обязанности отдела гражданской этики были распределены между другими подразделениями. Хауген же рассказала, что корень проблемы заключается во внесенном в 2018 году изменении алгоритмов соцсети, которые решают, что появится в вашей новостной ленте.
Хауген: На своем телефоне вы можете увидеть только 100 единиц контента, если сидите и сматываете ленту на протяжении, скажем, пяти минут. А у Фейсбука есть тысячи вариантов контента, которые он может вам показать.
Алгоритм выбирает некоторые из этих вариантов на основании того, какой контент вы ранее просматривали чаще всего.
И одним из последствий того, как сегодня этот контент отбирается, является оптимизация. У вас стараются вызвать вовлеченность или острую реакцию. Но собственные исследования Facebook показывают, что противоречивым, обостряющим идейные разногласия контентом легче всего вызвать озлобление, а не какие-либо другие эмоции.
Эмоция злости — хлеб соцсетей
Пелли: Дезинформация и негативный контент привлекают людей и удерживают на страницах соцсети, так?
Хауген: Да. И в Facebook поняли, что, если они настроят алгоритмы в сторону безопасности, будут сбивать злость, то люди будут проводить меньше времени на сайте. А значит, они будут видеть меньше рекламы, и в результате компания будет меньше зарабатывать.
Хауген говорит, что Facebook осознавал опасность, существовавшую в отношении выборов 2020 года. Руководство компании включило системы безопасности, чтобы уменьшить дезинформацию от врагов демократии. Но как только выборы закончились, руководители Facebook отключили те алгоритмы, которые снижали злость. Сотрудники или изменили настройки на те же, что были раньше, или вообще убрали элементы безопасности. Цель была — дать предпочтение росту, а не безопасности. В понимании Хауген, это действительно похоже на предательство демократии.
В компании утверждают, что некоторые системы безопасности пребывают в прежнем состоянии. Но после выборов платформу использовали для организации беспорядков 6 января. Обвинители приводят в качестве доказательств посты в Facebook, а именно фотографии вооруженных активистов и подписи а-ля «Пулей или бюллетенем восстановим республику!» Экстремисты использовали множество платформ, но на Facebook подобного контента особенно много.
После нападения на Капитолий протокол служебных сообщений Facebook, который скопировала Хауген, просто разрывало: «У нас что, было недостаточно времени, чтобы понять, как именно управлять дискурсом без того, чтобы поощрять насилие?» Хауген рассказывает, что искала позитивные комментарии мы нашли вот это: «Я не думаю, что наш руководящий состав игнорирует данные, мне кажется, оно просто поощряет дискуссионность во мнениях и правду…». Но ответом было: «Добро пожаловать в Facebook! Вы просто не знаете, что происходит. Я вижу, вы с нами совсем недавно, с ноября 2020 года… А мы тут уже много лет наблюдаем за бездействием руководства компании по этому вопросу. Увы, просто невозможно чувствовать себя совестливым человеком доброй воли, верующим, — и работать в компании, которая перестала прилагать усилия для смягчения негативного воздействия своей же платформы».
Пелли: Можно сказать, что Facebook усиливает наиболее злые проявления человеческой натуры.
Хауген: Это одно из печальных последствий, верно? Я бы не сказала, что в Facebook сидят злодеи, просто эти люди не мотивированы на то, чтобы творить добро. Их мотивировка простая: вы просматриваете больше контента — компания зарабатывает больше денег. Людям нравится все, что вызывает эмоциональную реакцию. И чем больше злости они испытывают, тем больше взаимодействуют между собой и тем больше контента потребляют.
Эта динамика привела к тому, что жаловаться на Facebook стали все основные политические партии Европы. Как говорится в скопированном Хауген внутреннем отчете за 2019 год, они «считают, что изменение алгоритма привело к повороту общения на Facebook в сторону негатива, что в свою очередь усилило именно радикальные политические силы».
Пелли: То есть эти европейские партии, по сути, заявили компании Facebook: ваш новый алгоритм вынуждает нас менять то, как мы управляем нашими странами.
Хауген: Да. Вы фактически заставляете нас занимать такую позицию, которая нам претит и которая несет вред обществу. Мы знаем, что, только заняв такую позицию, мы получим преимущество и окажемся конкурентоспособны на рыночной площади, которую представляют собой социальные сети.
Доказательства этого вреда, по словам Хауген, распространяются и на приложение Instagram.
Пелли: В одном из добытых вами внутренних исследований Facebook говорится о вреде Instagram для девочек-подростков. Утверждается, что 13,5% из девочек обвиняют Instagram в том, что он обостряет у них суицидальные наклонности; а 17% заявляют о вызванных постами в Instagram пищевыми расстройствами типа обжорства или отказа от еды.
Хауген: Самое трагичное заключается в том, что собственные же исследования компании указывают на растущую среди молодых женщин склонность к депрессиям по мере просмотра ими материалов по тематике расстройств пищевого поведения. Это заставляет их еще обращаться к Instagram, чтобы приободриться. Таким образом они попадают в замкнутый круг с извращенной обратной связью, испытывая все больше и больше ненависти к собственному телу. Исследования Facebook говорят не только об опасности и вреде Instagram для подростков, но и о том, что по качеству он явно уступает всем остальным соцсетям.
Не далее как на прошлой неделе в Facebook заявили, что планы по созданию варианта Instagram для детей младшего возраста откладываются на неопределенный срок.
В прошлом месяце адвокаты Хауген подали не менее восьми жалоб в Комиссию по ценным бумагам и биржам США, которая обеспечивает соблюдение закона на финансовых рынках. В жалобах указывается на противоречие данных от расследователей типа Хауген с публичным образом компании. А образ этот создает в основном сам глава компании Марк Цукерберг, выступавший в марте прошлого года дистанционно на слушаниях в Конгрессе.
Вот его показания от 25 марта: «Мы удалили контент, который мог повлечь реальный ущерб не в Интернете, а в реальном мире. Мы создали беспрецедентную программу факт-чекинга (проверки сведений на подлинность). Эта система не идеальна. Но это лучший из подходов для борьбы с дезинформацией в полном соответствии с ценностями нашей страны».
Доносишь на Facebook — значит, соблюдаешь закон
Одним из адвокатов госпожи Фрэнсис Хауген является основатель вашингтонской юридической группы под названием «Помощь осведомителям» Джон Тай (John Tye). Мы поговорили и с ним.
Пелли: Какова законодательная база обращения в Комиссию по ценным бумагам и биржам США? Какие законы, по вашему мнению, были нарушены?
Джон Тай: Как публичная компания, Facebook не имеет права вводить своих инвесторов в заблуждение и скрывать существенную информацию. Поэтому Комиссия по ценным бумагам и биржам регулярно применяет дисциплинарные меры, утверждая, что компании вроде Facebook допускают значительные искажения и умалчивания, которые негативно влияют на инвесторов.
Пелли: Facebook может обвинить Хауген в краже документов компании. (Именно в «краже документов» обвиняли Россию деятели «Рашагейта», когда оказались опубликованы подлинные и неискаженные документы Демпартии США в 2016 году, показавшие, что в партии нечестным образом не давали ходу тем соперникам Хиллари Клинтон, которые могли вместо нее выступить на выборах 2016 года от демократов. Доказательств участия России не было, а в публикации не было ни слова неправды. — Прим. ИноСМИ)
Тай: Более десяти лет назад был принят Закон Додда-Франка о создании на платформе Комиссии по ценным бумагам и биржам управления по работе с осведомителями — людьми, которые добровольно доносят на нарушающие законы компании или людей общественности. Одно из положений этого закона гласит, что ни одна компания не может запретить своим сотрудникам поддерживать с Комиссией связь и предоставлять ей какие-либо внутренние корпоративные документы.
Далее мы продолжаем разговор с Фрэнсис Хауген.
Хауген: Я очень сочувствую Марку. У него и в мыслях не было создавать платформу, основанную на ненависти. Но он позволил компании сделать такой выбор, который повлек распространение злонравного, поляризующего контента.
Представители Facebook от интервью отказались. Но в их письменном заявлении для программы «60 минут» говорится следующее: «Каждый день наши сотрудники вынуждены балансировать между защитой права миллиардов людей выражать свое мнение и необходимостью сохранять безопасность и позитивность платформы. Мы продолжаем реализовывать существенные улучшения в борьбе с распространением дезинформации и вредного контента».
«Если бы исследования выявили какое-либо точное решение этих сложных проблем, то отрасль высоких технологий при помощи правительства и общественности давно бы их решили».
Стоимость компании «Фейсбук» составляет триллион долларов. Всего за 17 лет существования она обзавелась 2,8 миллиарда пользователей, что составляет 60% всех имеющих выход в Интернет людей на планете. На этой неделе Фрэнсис Хауген планирует выступить в Конгрессе. Она считает, что федеральному правительству пора начать вводить соответствующие нормативные положения.
Хауген: Facebook продемонстрировал, что не может действовать независимо. Facebook снова и снова показывает, что предпочитает прибыль безопасности. Компания от нас получает кровавые субсидии, она расплачивается за свою прибыль нашей безопасностью. Я надеюсь, что данный случай окажет достаточное влияние на мир, и у людей нашей планеты хватит мужества и мотивации действительно ввести принципы, ограничивающие Facebook. Вот на что я надеюсь.
Скотт Пелли — американский журналист, более 31 года был корреспондентом и ведущиим CBS News. Корреспондент программы CBS News «60 минут».
