Facebook и Hate Speech

Моя работа в Facebook никогда не была связана с политикой компании и непосредственно с правилами в отношении контента. Я был нанят в качестве программиста, и в конечном итоге я возглавил несколько команд разработчиков, работа которых была сосредоточена на мониторинге опыта пользователей. Но именно вопросы связанные с политикой копмании привели меня в Facebook.

Когда я только присоединился к команде в 2012 году, миссия Facebook состояла в том, чтобы «сделать мир более открытым и дать людям возможность делиться информацией». Я принял решение устроиться туда на работу, так как осознал крайнюю важность второй половины миссии - дать людям возможность делиться.

В течение 5 лет мы добивались успехов. Да, и у компании, и у меня были свои взлеты, падения, рост и неудачи. Но в целом мы стремились стать хранилищем человеческих историй и идей. Когда моя команда создавала приложение «Paper» для Facebook, а затем обновленную новостную ленту, мы стремились, что бы наш дизайн был максимально удобным для получения и поиска информации. Контентная политика Facebook также отражала это. Долгое время компания была практически рупором ( иногда и беспринципным) свободы слова.

На 2013 год политика компании в отношении контента выражалась так: «Мы запрещаем контент, который считается непосредственно вредным, но разрешаем контент, который является оскорбительным или противоречивым. Вредоносный контент это что-либо, что провоцирует/продвигает насилие в реальном мире, воровство или нанесение ущерба собственности, или то что непосредственно причиняет эмоциональный вред конкретному частному лицу (например, издевательства) »

Но все изменилось в 2016 году, а точнее, когда Трамп уже официально стал кандидатом в президенты США. Смесь превалирования левых идей среди сотрудников и также одобрения их со стороны руководства означало только одно-компанию стало клонить влево. Сотрудники стали развешивать плакаты с Обамой, а также плакаты в поддержку Black Lives Matter. Тренинги стали все больше фокусироваться на социальных проблемах. Например в офисе Facebool в Сиэтле есть целая стена, обклеенная всевозможными слоганами левых-от "RESIST" до "METOO".

На наших еженедельных совещаниях с Марком Цукербергом, задаваемые ему вопросы стали отражать общие настроения. Я несколько перефразирую, но такие вопросы, как «Что мы будем делать с теми, кого затронуло избрание Трампа?» и «Почему Питер Тиль, который поддерживает Трампа, все еще работает в компании?», Стали обычным явлением. К чести Марка стоит сказать, что по началу он не поддерживал подобную риторику и выступал за политическое разнообразие. Но постоянные оскорбления руководства Facebook со стороны возмущенных и часто нетерпимых с иной политической точкой зрения сотрудников все больше стали определять текущую атмосферу.

Поскольку эта атмосфера развивалась внутри коллектива, никто открыто не возражал. Возможно, это происходило потому, что несогласные с текущим курсом работники, наблюдая за тем, как левые идеи проникли в офис , предвидели, что произойдет, если они будут не согласны с вещами, касающимся «равенства», «разнообразия» или «социальной справедливости». Все стало очевидно, когда в офисах были сорваны все плакаты, поддерживающие Трампа. Затем на Палмера Лаки, основателя Oculus VR, чью компанию мы приобрели за миллиарды долларов, была устроена настоящая охота на ведьм, что привело к его увольнению, из-за того что он дал 10000 долларов на финансирование рекламы против Хиллари. После подобного открыто выступать против этой политики никто не решался.

Не случайно, что именно в этот момент, под давлением со стороны внутренней политической монокультуры внутри компании, а также со стороны различных левых объединений, политика Facebook в отношении "hate speech" стала меняться.

По мере того, как определение "ненависти" становилось все более и более широким, а сотрудники выражали несогласие лишь по одиночке. Я понял, что текущая ситуация это прямая угроза свободе распространения информации в нашей сети. В результате я решил с этим как-то начать бороться. Но я быстро понял, что говорить с сотрудниками напрямую может быть опасно, так как тебя могут легко заклеймить "разжигателем ненависти". Тем не менее, мне удалось организовать движение за политический плюрализм, в которое вошло более 1000 сотрудников. Мы даже получили поддержку от нескольких руководителей. Но наша компания провалилась, когда большинство решило пожертвовать свободой слова ради "защиты" людей. В итоге, я покинул Facebook.

Давайте перенесемся в современность и посмотрим, как разжигание ненависти определяется компанией сейчас:

«Мы определяем разжигание ненависти как прямое нападение на людей на основе перечисленных далее характеристик: раса, этническая принадлежность, национальное происхождение, религиозная принадлежность, сексуальная ориентация, классовая принадлежность, пол, гендер, гендерная идентичность, серьезное заболевание или инвалидность. Мы также предоставляем защиту для людей с миграционным статусом. Мы определяем нападение как жестокую или бесчеловечную речь, заявления о неполноценности индивида/группы индивидов и/или призывы к их исключению из общества или сегрегации.»

Политика направлена на то, чтобы защитить людей от просмотра вредоносного контента, описанного выше. Правила распространяются не только на прямые атаки на отдельных лиц (как было раньше), но также и на атаки на «группы людей, которые имеют одну из вышеперечисленных характеристик».

Если вы думаете, что это разумно, то вы, вероятно, не внимательно изучили, как Facebook определяет «атаку/нападение». Просто написав, что вы не любите кого-то со ссылкой на «защищенную характеристику» (например, «Я не люблю мусульман, которые поддерживают законы шариата») или применение формы морального суждения (например, «исламские фундаменталисты, которые насильственно совершают калечащие операции на женских половых органах, являются варварскими») технически считаются атаками, направленными на разжигания ненависти второго уровня, и запрещены на платформе. Такая политика в отношении социальных сетей опасна, непрактична и не нужна.

***

Проблема с подобной политикой начинается с того факта, что не существует принципов, которые можно было бы справедливо и последовательно применять для того, чтобы отличить, какая речь является разжиганием ненависти, а какая нет. Ненависть - это чувство, и попытаться сформировать свод правил, который определит, испытывает ли человек ненависть, невозможно.

Откуда вообще берутся эти характеристики, определяющие ненависть? В Соединенных Штатах на законодательном уровне таких характеристик 9. В Калифорнии 12. В Великобритании 10. Facebook выбрал 11, хотя негласно их 17. Суть в том, что любой подобный список является произвольным. В результате подобные списки будут лишь расширяться, так как любая социальная группа сможет заявить о своем угнетении по определяющему признаку.

Неизбежным результатом этой политики является то, что, в конце концов, все, что кто-либо находит пусть и отдаленно, но оскорбительным, будет запрещено. Цукерберг недавно опубликовал заметку, которая признавала это. В дополнение он включил удобный график, показывающий, как компания теперь начинает снижать частоту появления определенного контента в ленте, который не запрещен, но находится на границе попадания под запрет.

Почти все, что вы можете сказать, может быть оскорбительно для кого-то. Оскорбление не определяется четким стандартами. Однажды, моя коллега заявила, что я оскорбил ее тем, что я раскритиковал недавно установленную скульптуру в новом офисе Facebook в Menlo Park. Мне объяснили, что, будучи трансгендерной женщиной, она почувствовала, что этот монумент показывает ее личность. Далее мне сказали, что ей «наплевать на мои рассуждения», и что того факта, что она обиделись, было достаточно, чтобы потребовать от меня извинений. Оскорбление (или предполагаемое оскорбление) может быть использовано в качестве политического оружия: заинтересованная группа (или ее представитель) заявляет, что он был оскорблен, требует извинений и, косвенно, получает моральное и политическое превосходство.

Давайте посмотрим на Джоэла Каплана, вице-президента Facebook по глобальной публичной политике, и близкого друга судьи Верховного Суда США Бретта Кавано. Джоэл публично извинялся перед сотрудниками Facebook после участия в слушаниях в Конгрессе по назначению Кавано. Как и ожидалось, после получения извинений от него, толпа не отступила. Вместо этого возмущение толпы удвоилось. Некоторые стали требовать уже увольнения Каплана. Кто-то требовал, чтобы компания пожертвовала деньги движению #METOO, а кто-то выражал свое возмущение руководству напрямую. В результате в офисах сформировалась такая атмосфера, что несколько сотрудников просто уволились сами.

Надо понимать, что вы не можете запретить споры и оскорбления, не разрушив основы, необходимые для продвижения новых идей. История полна примеров, когда революционная идея, сначала казалась крайне оскорбительной и чуть ли не преступной, но потом эта идея оказывалась крайне полезной. Риск оскорбить кого-то-это ставка, которую мы все платим, чтобы продвинуть наше понимание мира. Так же, чтобы поддерживать силу наших ценностей, мы должны постоянно видеть, как они выдерживают критику под весом доказательств, аргументов и опровержений. Такой свободный обмен идеями не только создаст условия, необходимые для прогресса и индивидуального понимания, но также будет способствовать устойчивости, которой так не хватает многим в современной культуре.

***

Но давайте сосредоточимся на том, как на самом деле работают правила Facebook.

Когда сообщение помечается как оскорбительное напрямую пользователем или автоматическими алгоритмами Facebook, оно попадает в очередь на модерацию, чтобы быть проверенным живым человеком. Эта очередь обрабатывается командой из примерно 8 000 (скоро будет 15 000) подрядчиков. Эти работники мало или совсем не имеют соответствующего опыта или образования, и часто работают вне офисах по всему миру. Их основное обучение Стандартам сообщества Facebook выражается в форме 1400 страниц правил, разбросанным по десяткам презентаций PowerPoint и электронных таблиц Excel. Многие эти работники используют Google Translate (!), чтобы перевести эти правила. И после завершения обучения у них обычно есть 8-10 секунд, чтобы принять решение по каждому отдельному посту/сообщению. В результате они часто принимают неправильные решения.

Неизбежно, что некоторые из решений модерации заденут известных пользователей, или затронут критическую массу обычных пользователей до такой степени, что они обратят на это внимание средств массовой информации. Когда это происходит, дело обостряется внутри Facebook, и старший сотрудник самостоятельно рассматривает дело, чтобы рассмотреть возможность отмены решения об модерации. Иногда правила игнорируются, чтобы оградить Facebook от ненужного возмущения. В других случаях правила применяются более жестко, особенно когда правительства могут оштрафовать Facebook за определенный контент. Неделю за неделей, несмотря на дополнительные тренинги, я наблюдал, как модераторы контента удаляли посты, в которых просто содержались фотографии оружия, хотя правила запрещает только продажу оружия. Трудно описать, насколько небрежен весь этот процесс.

Тут нет никакой возможности для улучшения. Многие в Facebook думают, что могут найти выход из этой проблемы. Это фундаментальный тупик, в который попало руководство Facebook: они думают, что смогут прояснить политику в достаточной степени для ее последовательного применения человеком или использовать искусственный интеллект (ИИ) для устранения человеческого фактора. Оба этих подхода бессмысленны.

ИИ будет правильно работать, когда у вас есть надежная основа для дальнейшего развития и оптимизации. Но политика Facebook не имеет такой прочной основы, потому что «ненавистнические высказывания» просто не имеют нормального определения. В нем отсутствует принципиальное различие между «ненавистной» речью и субъективно-оскорбительной речи. Машинное обучение работает, когда данные четкие, согласованные и не требуют человеческого усмотрения или контекста. С политикой Facebook такого не получится. Показательный пример: когда Facebook хотел последовать примеру Apple в запрете Алекса Джонса, даже эта задача потребовала, чтобы целая команда сотрудников провела месяцы в поиске в постах Джонса на Facebook контента, который может быть использован для оправдания его запрета.

* * *

Тем не менее, что Facebook, что Twitter являются частными компании и они вполне могут проводить такую политику, которую считают нужной. В любом случае, самое страшное, что они могут сделать- забанить вас.

полный текст: https://quillette.com/2019/02/07/facebook-has-a-right-to-block-hate-speech-but-heres-why-it-shouldnt/