Секретные правила и инструкции Facebook, в соответствии с которыми модераторы определяют, что именно 2 миллиарда пользователей этой социальной сети могут или не могут публиковать на сайте, впервые попали в руки репортеров Guardian. Они занимаются расследованием, которое, вероятнее всего вызовет новую волну споров о роли и этических принципах этой гигантской социальной сети.
В руки репортеров Guardian попало свыше 100 внутренних учебных пособий, таблиц и графических схем, которые позволяют подробно ознакомиться с теми правилами, в соответствии с которыми Facebook модерирует такие острые темы, как насилие, пропаганда ненависти, терроризм, порнография, расизм и причинение вреда себе. В этих инструкциях даже есть отдельные правила, касающиеся договорных матчей и каннибализма.
Эти «документы Facebook» («Facebook Files») позволяют нам ознакомиться с инструкциями и правилами, сформулированными руководством сайта, который сейчас находится под мощным политическим давлением в Европе и США.
Содержание этих документов указывает на те трудности, с которыми сталкивается руководство сайта, пытающееся адекватно отреагировать на такие новые вызовы, как, к примеру, «порноместь», а также на вывозы, с которыми сталкиваются модераторы сайта, настолько перегруженные работой, что нередко на принятие решения у них есть «не более 10 секунд».
«Facebook не в состоянии контролировать свой контент, — отметил один источник. — Он слишком стремительно разросся и достиг гигантских размеров». По слухам, многие модераторы недовольны непоследовательностью и странностью некоторых правил. Особенно сложными и запутанными являются правила, касающиеся контента сексуального характера.
В одном из документов говорится, что модераторам Facebook еженедельно приходится проверять 6,5 миллиона сообщений о ложных аккаунтах, так называемых FNRP (fake, not real person).
Руководство Facebook составило инструкции, в которые вошли нескольких тысяч слайдов и иллюстраций и которые могут вызвать беспокойство у критиков, убежденных в том, что Facebook как крупный издатель должен уделять больше внимания удалению насильственного, вредного и опасного контента.
Однако эти инструкции могут также встревожить защитников свободы слова, убежденных в том, что Facebook фактически уже превратился в крупнейшего в мире цензора. Обе стороны, скорее всего, потребуют увеличить прозрачность.
Репортеры Guardian ознакомились с документами, которые были переданы модераторам Facebook в течение прошлого года. Согласно этим документам, модераторы сайта должны:
— удалять такие ремарки, как, к примеру, «Кто-нибудь, пристрелите Трампа», поскольку он является главой государства и его имя относится к защищаемой категории. Между тем модераторы могут пропустить такие высказывания, как «чтобы свернуть суке шею, всю силу нужно приложить к центральной части горла» или «отвали и сдохни», потому что подобные высказывания не считаются реальной угрозой;
— снятые на видео сцены насильственной смерти считаются нарушением, но в то же время не все из них нужно удалять, так как они могут повысить уровень осведомленности людей о таких важных проблемах, как психические расстройства;
— некоторые фотографии, на которых изображены сцены не связанного с сексом физического насилия и издевательства над детьми, не нужно в обязательном порядке удалять, если в них нет элементов садизма и восхваления насилия;
— фотографиями, на которых изображены сцены жестокого обращения с животными, можно делиться, а специальную пометку disturbing («травмирующий») нужно ставить только на самых шокирующих из них;
— «сделанные вручную» изображения наготы и сексуальных действий допускаются, в то время как изготовленные цифровым образом сцены сексуальных действий — нет;
— видео абортов допустимы, если в них нет обнаженного тела;
— Facebookтакже разрешит вести прямую трансляцию сцен, в которых люди причиняют вред себе, потому что он «не хочет подвергать цензуре или наказывать людей, оказавшихся в бедственном положении»;
— владелец аккаунта в социальной сети с числом подписчиков свыше 100 тысяч признается «публичной фигурой» и лишается той защиты, которая предоставляется частным лицам.
Другие типы высказываний, которые могут быть пропущены модераторами в соответствии с этими документами, включают в себя ремарки типа «маленькой девочке стоит вести себя тихо, пока папа не разбил ей лицо» или «надеюсь, тебя убьют». Эти угрозы — слишком общие и обезличенные, и их не стоит считать реальными.
В одном из этих документов руководство Facebook признает, что «люди пользуются резкими формулировками и бранными словами, чтобы выразить в сети свое недовольство и раздражение», и что они «чувствуют себя в безопасности», делая это.
В документе говорится: «Они предполагают, что сказанное ими никогда больше не вернется к ним, и они не испытывают никаких чувств по отношению к человеку, в адрес которого они высказывают угрозы, из-за отсутствия эмпатии, вызванного тем, что люди общаются посредством электронных устройств, а не лицом к лицу».
«Стоит отметить, что агрессивные высказывания, как правило, не представляют собой реальные угрозы, если только характер формулировок не дает нам веские поводы подозревать, что речь идет не просто о выражении неких эмоций, а уже о каком-то конкретном замысле или плане. С этой точки зрения, выражения типа «я тебя убью» или «отвали и сдохни» — это не реальные угрозы, а всего лишь выражения недовольства и раздражения».
В документе также говорится: «Люди часто выражают презрение и несогласие при помощи угроз или призывов к насилию, которые носят несерьезный и даже шутливый характер».
Facebook признает, что «не всякий неприятный и тревожный контент является нарушением стандартов нашего сообщества».
Моника Бикерт (Monika Bickert), глава отдела глобальной политики Facebook, отметила, что у этой социальной сети — почти 2 миллиарда пользователей, поэтому достичь консенсуса в вопросе о том, что можно публиковать, а что — нет, крайне трудно.
«Жители планеты придерживаются чрезвычайно разнообразных взглядов, поэтому у них могут быть самые разные представления о том, чем можно делиться, а чем — нет. Где бы мы ни проводили разграничительные линии, всегда будут оставаться "серые зоны". К примеру, границы между юмором, сатирой и неподобающим контентом зачастую очень размыты. Порой очень трудно определить, можно ли публиковать тот или иной контент на сайте», — объяснила она.
«Мы понимаем, что мы несем ответственность за безопасность нашего общества. Мы осознаем эту ответственность. Наш долг — обеспечить безопасность. Это обязательство нашей компании. Мы продолжим вкладывать средства в то, чтобы наш сайт был безопасным, и мы призываем всех пользователей сообщать нам о появлении контента, который нарушает наши стандарты».
По ее словам, есть такие оскорбительные комментарии, которые могут нарушать политику Facebook в одном контексте и не нарушать в другом.
Попавшие в руки репортеров Guardian документы, касающиеся модерации контента насильственной тематики, включая сцены насильственной смерти, насилия над детьми несексуального характера и жестокого обращения с животными, демонстрируют то, как руководство сайта пытается идти по этому минному полю.
Такие видеоролики должны быть «спрятаны от несовершеннолетних», но их не стоит удалять автоматически, потому что они могут «оказаться ценными в процессе повышения осведомленности в таких вопросах, как нанесение себе увечий, психические расстройства, военные преступления и так далее».
Что касается насилия над детьми несексуального характера, в документах Facebook сказано: «Мы не удаляем фотографии сцен насилия над детьми. Мы ставим специальную пометку «disturbing» на видеоролики со сценами насилия над детьми. Мы удаляем фото- и видеоматериалы со сценами насилия над детьми, если они включают в себя элементы садизма или восхваления насилия».
На одном из слайдов объясняется, что модераторы Facebook не удаляют автоматически свидетельства насилия над детьми несексуального характера, чтобы пользователи могли распространить эти материалы и помочь «опознать и спасти ребенка, но мы ставим специальные пометки, чтобы обезопасить аудиторию».
Руководство Facebook подтвердило, что «бывают ситуации, когда мы пропускаем материалы со сценами насилия над детьми несексуального характера, чтобы помочь этим детям».
Что касается политики сайта в вопросе жестокого обращения с животными, в одном из документов сказано следующее: «Мы пропускаем фотографии и видео со сценами жестокого обращения с животными, чтобы повысить уровень осведомленности, однако мы можем ставить специальные пометки для защиты аудитории, если контент чрезмерно шокирующий».
«В целом пользователи могут обмениваться фотографиями и видео со сценами жестокого обращения с животными. На некоторых особенно шокирующих материалах может стоять специальная пометка».
Фотографии искалеченных животных, а также фотографии со сценами пыток, скорее будут отмечены как «травмирующие», а не удалены. Модераторы также могут пропустить фотографии насилия над животными, на которых человек избивает животное.
В документах Facebook говорится: «Мы позволяем пользователям делиться фотографиями и видео со сценами насилия над животными, чтобы повысить уровень осведомленности и обличить насилие, но мы удаляем контент, в котором насилие над животными восхваляется».
Эти документы свидетельствуют о том, что руководство Facebook выпустило новые инструкции касательно обнаженного тела после прошлогоднего скандала, разразившегося в результате того, что модераторы удалили фотографию, сделанную в период войны во Вьетнаме, потому что девочка на ней была обнаженной.
Теперь, согласно правилам, модераторы могут делать «исключения для заслуживающих освещения в прессе материалов», касающихся «ужасов войны», однако они не пропускают изображения «обнаженных детских тел в контексте Холокоста».
Руководство Facebook сообщило Guardian, что модераторы сайта используют специальные программы для перехвата графического контента, прежде чем он попадает на сайт, но «мы хотим, чтобы у людей была возможность обсуждать текущие события в мире… поэтому иногда контекст, в котором пользователи обмениваются изображениями со сценами насилия, имеет огромное значение».
Некоторые критики в Европе и США требуют, чтобы в отношении Facebook действовали те же правила, которые действуют в отношении бумажных СМИ и издательств.
Но Бикерт говорит, что Facebook — «это новый тип компании. Это не традиционная технологическая компания и не традиционная информационная компания. Мы создаем технологию и несем ответственность за то, как она используется. Мы не пишем те новости, которые люди читают на нашей платформе».
В докладе, подготовленном британскими парламентариями, который был опубликован 1 мая, говорится следующее: «Самые крупные и богатые социальные сети постыдно далеки от того, чтобы принять адекватные меры для предотвращения распространения незаконного и опасного контента, для внедрения надлежащих стандартов и для обеспечения безопасности их пользователей».
Сара Робертс (Sarah T Roberts), эксперт в вопросах модерации контента, отметила: «Одно дело, если вы являетесь небольшим онлайн-сообществом, в которое входят люди сходных взглядов и принципов, но, если пользователи вашей социальной сети составляют весомую долю мирового населения, и вы позволяете каждому из них делиться своими мыслями, вы неизбежно столкнетесь с проблемами».
«А когда вы монетизируете эту практику, вы столкнетесь с настоящей катастрофой».
Facebook уже долгое время пытается найти критерии оценки новостной ценности или ценности для повышения уровня осведомленности фотографий и видеоматериалов со сценами насилия. Хотя эта компания недавно столкнулась с мощной волной критики после того, как ее модераторы не удалили видеоролики со сценой убийства Роберта Гудвина (Robert Godwin) и убийства отцом своего ребенка в Тайланде, эта платформа сыграла важную роль в распространении видеоматериалов об убийствах, совершаемых полицейскими, и о других преступлениях представителей власти.
В 2016 году модераторы Facebook удалили видео, в котором были показана сцена сразу после убийства Филандо Кастиле (Philando Castile) полицейскими, однако позже видео вернули на сайт, заявив, что удаление было ошибкой.
