Жалобы сына маминой подруги

Катерина Егорушкова работает «ВКонтакте» заместителем руководителя отдела модерации и администрирования. На пятом VK Fest на сцене Test Stage она рассказала, как работает отдел борьбы со спамом. Он уберегает вас от нежелательного контента и является самым большим в социальной сети.

Подача Жалоб

Огромное количество жалоб подаётся неправильно, 55 % из них попадает в неправильные категории — и это грустно. Грустно, потому что сами пользователи виноваты, что им не отвечают на жалобу.

Время обработки — одна из самых важных составляющих борьбы со спамом.

Существует много спама, где время — важный фактор борьбы с ним. Допустим, была подана жалоба на шок-контент или спам. Такой запрос будет обрабатываться где-то минуту, и по нему будет вынесено решение. Цифра очень хорошая, особенно учитывая количество поступающих жалоб, которое растёт с каждым годом.

Как вы знаете, при подаче жалобы вы выбираете категорию. Каждый модератор работает в своей категории, он в ней разбирается, и ему не составит труда отфильтровать ваши жалобы, отправленные к нему. Это, пожалуй, главный фактор, почему у жалоб есть категории — это уменьшает время её обработки. Это работает и в обратную сторону: если модератор получит жалобу не по своему профилю, то потратит гораздо больше времени на решение вопроса. Из-за этого его релевантные жалобы, отправленные в правильной категории, уходят на второй план, и время ответа на них увеличивается.

Отправив жалобу неправильно, вы не всегда будете получать желаемый результат. Чтобы вам было понятнее, почему так происходит, рассмотрим пример. Вы работаете в большой компании, и вам нужно отнести договор в бухгалтерию. Из-за того, что отделов слишком много, вы относите его не в бухгалтерию, а в IT-отдел. IT-отдел явно не будет знать, что делать с вашим договором, поэтому он просто будет лежать там очень и очень долго. Так же и с вашими жалобами.

Во «ВКонтакте» много разного контента. Есть даже шок-контент, но и для таких постов у нас есть специальные ребята. Такие модераторы уже готовы к такому контенту и обработают вашу жалобу одной рукой, попивая чаёк другой.

В отделе модерации всё работает, как часы. В каждой сфере работает свой модератор, который разбирается в этом. Но всё может рухнуть из-за того, что пользователь отправил жалобу не в тот раздел. Отправляйте жалобы правильно, и тогда вам будут рады помочь с нежелательным контентом. Кстати, устранить нежелательный контент не всегда возможно, если жалоба отправлена неправильно, поэтому пост может висеть какое-то время.

Меры наказания

Существуют разные меры наказания: от временной до перманентной блокировки. Существует правило: наказывать нужно за то, что сделано. Допустим, вы в ленте увидели, что ваш друг, внезапно, стал подружкой — поставил на аватар слишком откровенное фото и предлагает сексуальные услуги. Многие начнут отмечать такой контент как порнографию. Их можно понять, но в таком случае правильнее будет отмечать ситуацию как спам, так как его взломали и через страницу стали распространять сексуальные материалы. Понять, что его взломали, можно по резкой смене направления его страницы.

Если страница создана специально для фишинга, то она должна блокироваться навсегда, чтобы пресечь распространение нежелательного контента. А теперь представьте, что жалобу подали не в ту категорию. В таком случае жалоба уйдёт не в тот раздел и, соответственно, модераторы не смогут заблокировать этого человека навсегда, так как у них нет на это полномочий.

Доступ на модерацию есть у малого количества людей. Модераторы такие же люди, как и все. Они тоже листают ленту новостей, тоже общаются через сообщения и так далее. Совмещать работу на отдыхе не хотелось бы, поэтому доступ к модерации ограничен.

Как устроен процесс рассмотрения жалоб?

Все жалобы проходят через сложную аналитическую машину, и если нельзя сделать выводы на основе технических данных, то жалоба переходит модераторам, которые обрабатывают запросы вручную.

Немного внутренней кухни

Поступает огромное количество жалоб. И если вы, например, несколько раз отправите жалобу в одной категории, то все они не пройдут. В идеальном мире у пользователей должна быть лишь одна кнопка «пожаловаться» без каких-либо категорий, но в нынешних реалиях это невозможно, и это усложняет процесс модерации в несколько сотен раз.

Не стоит добавлять ложные комментарии к жалобе с целью повысить вероятность блокировки этого владельца. Допустим, при жалобе на страницу вы добавили, что он распространяет детскую порнографию, хотя он этого не делает. Злой умысел понятен, но это не пройдёт. Модераторы проверят и это, тем самым сделав лишнюю работу, но найдут, что этот комментарий ложный, и профит у вас будет нулевой.

Просто так человек заблокирован не будет, так не бывает.

Вопросы

Сейчас очень много комментариев от девушек с низкой социальной ответственностью. При подаче жалобы их банят, а потом восстанавливают страницу, и девушки продолжают свою деятельность. Почему их не банят перманентно?

Здесь принципиальный момент: если страница была целенаправленно создана для рассылки подобного контента, то мы, конечно, примем все возможные меры. Если пользователь был взломан, то было бы странно блокировать такую страницу навсегда, а не возвращать её владельцу.

Почему вы не присылаете уведомления пользователю о рассмотрении его жалобы?

Такие уведомления находятся на этапе тестирования, и в скором времени мы планируем предоставлять пользователям уведомления о рассмотрении его жалоб. [Прим. БР: это уже реализовано]

Как изменилась твоя жизнь после трудоустройства?

Во-первых, я не влезаю в свою одежду, в которую я влезала до того, как устроилась на сидячую работу «ВКонтакте». Вы, может, даже видели новость про несчастных модераторов Facebook, которые немного слетают с катушек, работая с жёстким контентом. У нас такого нет, у нас большая и дружная команда. Если возникают какие-то сложные ситуации, мы с друг другом обсуждаем её решение. В целом ты либо привыкаешь к жёсткому контенту, либо не привыкаешь и уходишь. Тут другого не дано.

Какая психика должна быть у модераторов и как работать с таким потоком информации?

Для потока информации нужен человек, который будет успевать обрабатывать такое количество информации в час, день, сутки. Вероятно, тут нужен аналитический склад ума. Что касается нежелательного контента, меня с ребятами спасает чёрный юмор. Юмор — это защитная реакция организма, и совершенно нормально начинать немного чернить.

Как стать модератором? Как попасть к вам в отдел на работу?

Ещё не так давно висела вакансия. Мы набрали огромную базу заявок, пока набираем ребят оттуда.

Обрабатываются ли жалобы от подозрительных аккаунтов, фейков и так далее?

Мы не смотрим, кто подал жалобу. Мы смотрим непосредственно на тот контент, с которым мы работаем, потому что каждый имеет право голоса.

Если указывать в причинах жалобы все категории, то этот пост отправится всем фракциям модерации или он не придёт никому?

Выбрать все категории жалоб нельзя, только если подавать последовательно. Опять же, у нас есть фильтры на входе, которые рассматривают техническую сторону вопроса.

Сколько модераторов ушло по своему желанию?

По своему желанию — это не только потому что не выдержали. У нас были ребята, которые работали в модерации, а потом уходили, потому что становились разработчиками. Именно по желанию, потому что было тяжело работать с контентом, я за свои 8 лет работы могу вспомнить только 2-3 человек, не больше.

Полную запись выступления Катерины можно посмотреть ниже:

The Brown Room — независимое интернет-издание про социальные сети и современные технологии.

Автор: Владислав Сатонин
Корректор: Арсений Метелев, Анастасия Литвиненко
Изображения: VK Testers