Секретные правила для модераторов контента в Facebook: ProPublica
Каждый месяц модераторы Facebook удаляют 288 тысяч постов, «разжигающих ненависть». В отделе компании, который занимается отслеживанием противоправного контента, работают четыре с половиной тысячи человек, а в ближайший год их станет на три тысячи больше. При этом правила, по которым удаляются те или иные посты, непубличны.
Издание ProPublica, получившее доступ к инструкциям для модераторов, рассказало, почему в Facebook можно разжигать ненависть против детей, но нельзя — против геев.
«Медуза» пересказывает основные тезисы этого материала.
В правилах для модераторов Facebook описаны группы людей, в отношении которых необходимо пресекать «разжигание ненависти». В слайде под названием «Кого мы защищаем» перечисляется: пол, раса, религиозная принадлежность, этнос, национальное происхождение, сексуальная ориентация, гендерная идентичность, инвалидность и тяжелая болезнь.
Другой слайд называется «Кого мы не защищаем». В нем указаны: профессия, политическая идеология, внешний вид, возраст, религия, страны и другие категории. Модераторам нужно всякий раз — а они отсматривают тысячи постов каждый день — решать, к какой из этих двух групп относится конкретное оскорбление.
Сделать это не так просто, как может показаться. Facebook предлагает своим модераторам тест «Какой из следующих подклассов мы защищаем?» с вариантами ответа: «Женщины-водители», «Чернокожие дети» и «Белые мужчины» (к последнему пункту приложена фотография группы Backstreet Boys). Правильный ответ — «белые мужчины».
Дело в том, что к подклассам — то есть к частям тех групп людей, что перечислены в базовых правилах, — применяются специальные формулы:
Защищенная категория + защищенная категория = защищенная категория
Защищенная категория + незащищенная категория = незащищенная категория
«Белые мужчины» описывают сразу два защищенных параметра — расу и пол. «Чернокожие дети» и «женщины-водители» смешивают защищенные категории (раса и пол соответственно) с незащищенными (возраст и профессия), потому модераторы не должны удалять посты, «разжигающие ненависть» в отношении них. Другой пример от Facebook: «ирландские женщины» защищены, а «ирландские подростки» — уже нет.
В 2008 году список материалов, которые должны быть удалены из соцсети, помещался на одной странице — там упоминались, в частности, фотографии обнаженных тел и Адольфа Гитлера. Внизу страницы была приписка: «Удаляйте все, что вызывает у вас чувство дискомфорта».
Дейв Уиллнер, который стал модератором Facebook в 2008-м, рассказал, что отсматривал 15 тысяч фотографий в день; он пришел к выводу, что существующие инструкции прописаны недостаточно тщательно. Через пять лет он ушел из компании, оставив после себя свод правил на 15 тысяч слов (для сравнения: в этом тексте спецкора «Медузы» Даниила Туровского — около восьми тысяч слов). Документ используют в Facebook по сей день.
Даже рассмотрение кейсов с упоминанием Гитлера и нацизма усложнилось. Например, Facebook не блокирует тех, кто отрицает холокост, и позволяет использовать свастику в качестве политического высказывания (ProPublica приводит слайд, на котором изображен основатель соцсети Марк Цукерберг — на рукаве пририсована свастика, на лице — гитлеровские усики). При этом пост с лягушонком Пепе, ставшим символом американских альт-правых, может быть удален.
Facebook запрещает пользователям призывать отправить кого-либо в концентрационные лагеря; в этом правиле есть исключение: фраза «Нацисты должны быть отправлены в концлагерь» допустима.
В правилах упоминаются также «квазизащищенные» группы людей — мигранты. Эта категория появилась из-за наплыва беженцев из Сирии в Европу. Пользователи не могут призывать к насилию против квазизащищенных групп и допускать обобщения, обесчеловечивающие их, — но могут призывать к их выдворению. В одном из документов говорится, что мигрантов можно называть «грязными», но нельзя «грязью»: «Они не должны сравниваться с грязью или болезнью, когда сравнение выражено в форме существительного».
Источники ProPublica и The Wall Street Journal рассказывали, что Марк Цукерберг не позволял удалить из Facebook посты президента США Дональда Трампа, в которых тот призывал запретить въезд в страну мусульманам. Модераторы считали, что записи нарушают правила ресурса, однако Цукерберг решил, что они остаются важной частью политического дискурса.
* * *
Редакция
«Meduza»