Хлоя изо всех сил пыталась стать более отстраненной, но у нее произошла паническая атака после видео, на котором убивают человека. В течение трех недель девушка проходила стажировку, где на нее обрушилась лавина постов с агрессией, сценами насилия и порно.
Еще через несколько дней Хлое предстояло выйти на полную ставку контент-модератора Facebook. При этом прямого отношения к самой популярной в мире соцсети она не имела. Девушку наняла фирма Cognizant - один из многочисленных подрядчиков Facebook.
На данном этапе обучения Холя должна была проверить пост перед другими стажерами. Когда наступила ее очередь, она подошла к монитору и нажала кнопку play. Начал проигрываться ролик, которого ни Хлоя, ни ее потенциальные будущие коллеги до этого не видели.
На видео убивали человека, ему наносили один удар ножом за другим, жертва кричала и умоляла о пощаде.
Задача Хлои состояла в том, чтобы сообщить комнате, следует ли удалить этот пост и почему. Она уже знала, что в разделе 13 правил Facebook прописан запрет на размещение видеороликов, на которых запечатлено убийство человека.
Когда Хлоя объясняла это другим стажерам, ее голос начинал дрожать. Она вернулась на свое место, едва сдерживая слезы. К монитору подошел другой стажер, чтобы разобрать следующий пост, но у Хлои уже не было сил сосредоточиться. Она вылетела из комнаты и разрыдалась.
Хлою никто не пытался утешить - это была работа, которую она выбрала сама, и за которую ей платили деньги. Для тысячи таких же как Хлоя сотрудников в Фениксе и еще 15 тысяч модераторов по всему миру - для них это был всего лишь очередной рабочий день.
***
О своей работе на соцсеть согласились рассказать около десятка бывших и нынешних сотрудников Cognizant в Фениксе. Все они подписали соглашения о неразглашении, в которых обязались не обсуждать то, что они делают для Facebook и даже не признавать, что Facebook является клиентом Cognizant. Поэтому все имена изменены.
Такая конфиденциальность служит защитой для сотрудников от пользователей, которые могут оказаться недовольны решением модератора и попытаться разобраться не самыми джентльменскими методами.
Соглашения о неразглашении также призвано не позволить подрядчикам делиться личной информацией о пользователях, что особенно важно в эпоху повышенного внимания к защите персональных данных.
Но, как говорят рядовые модераторы, секретность также защищает Cognizant и Facebook от критики относительно условий их работы. На сотрудников оказывают давление, чтобы они не обсуждали, какую эмоциональную нагрузку приходится терпеть, даже с близкими людьми, что приводит только к усилению чувства тревоги и одиночества.
Если подвести все рассказы под общий знаменатель, то получится описание рабочего процесса, балансирующего на грани хаоса, где сотрудники на рабочем месте перекидываются недобрыми шутками о самоубийстве, а в перерыве идут покурить травки, чтобы притупить эмоции.
Они могут быть уволены за то, что совершили пару ошибок за неделю, а те, кто удержался на своем месте, ходят на работу в страхе, что бывшие коллеги решат отыграться на них в стремлении отомстить всей конторе.
Люди здесь не получают тех же бонусов и привилегий, что сотрудники Facebook, и работают в совершенно других условиях. Они находятся под неусыпным контролем менеджеров, даже отлучаясь в туалет.
Отчасти это объяснимо: работников, пытавшихся быстро снять стресс и отвлечься, бывало, застукивали занимающимися сексом в самых необычных местах офиса.
Здесь люди еще на стадии стажировки впадают в тревожные состояния, а после ухода долго пытаются справиться с травмирующим опытом. Помощь профессионального психолога, которую обеспечивает Cognizant, заканчивается в тот момент, когда сотрудник пишет заявление об увольнении.
Многие модераторы говорят, что контент, который им приходится просматривать каждый день, постепенно маргинализирует их взгляды. Кое-кто начинает задумываться о том, что теория о плоской Земле не лишена оснований.
Один из бывших сотрудников рассказывал, что его коллега начал подвергать сомнению некоторые аспекты Холокоста, другой - что носит с собой карту всех путей эвакуации из дома и с работы и спит с пистолетом под подушкой, потому что больше не верит, что 11 сентября устроили террористы.
***
После видео с убийством Хлоя некоторое время проплакала в комнате отдыха, потом в туалете, но взяла себя в руки, испугавшись, что ее долгим отсутствием будут недовольны.
Она недавно закончила колледж, однако перед ней не открывались радужные перспективы. Она отчаянно пыталась найти работу, когда подавала заявку в Cognizant. Став штатным модератором, Хлоя будет зарабатывать $15 в час - на $4 больше, чем минимальная оплата труда в Аризоне. Это было лучшее из мест, куда ее могли бы взять.
Хлоя успокоилась и вернулась в кабинет, где остальные стажеры обсуждали новое жесткое видео.
На нем людей расстреливали с дрона. Тела жертв становились как будто ватными, ноги подкашивались, и они падали на землю.
Хлое снова пришлось выйти.
Сотрудникам Cognizant полагается бесплатная помощь психолога. Когда консультант выслушал Хлою, он объяснил ей, что у нее был приступ панической атаки. Он обещал, что ей станет легче, когда она закончит обучение и начнет полноценно работать. У нее появится больше контроля: можно будет поставить видео на паузу или отключить звук.
“Сфокусируйся на своем дыхании, и не слишком вовлекайся в то, что смотришь”, - посоветовал он.
***
3 мая 2017 года Марк Цукерберг объявил о расширении операционной команды Facebook. Новые сотрудники, которые добавятся к 4,5 тысячам существующих модераторов, будут отвечать за проверку каждого фрагмента контента, на который поступают жалобы.
К концу 2018 года, в ответ на критику в засилии неподобающих постов в соцсети, Facebook собрал команду из более чем 30 тысяч сотрудников, занимающихся вопросами защиты и безопасности, около половины из них были модераторами.
Лишь немногие из последних являются штатными сотрудниками Facebook. В этом аспекте соцсеть в основном полагается на контрагентов. Операционный вице-президент компании Элен Сильвер заявляла, что привлечение подрядчиков позволило Facebook действовать более глобально: модераторы контента работали круглосуточно, оценивая публикации на более чем 50 языках по всему миру.
Использование подрядчиков имело еще одну неоспоримую выгоду для Facebook - это существенно дешевле.
В среднем сотрудник Facebook зарабатывает $240 тыс. в год вместе с бонусами, а модератор контента, работающий на Cognizant в Аризоне, получает всего $28,8 тыс.
Это, в том числе, помогает Facebook поддерживать хорошую отчетность. За последний квартал прибыль компании составила $6,9 млрд, а выручка - $16,9 млрд. И хотя Цукерберг говорил, что инвестиции Facebook в безопасность снизят прибыльность компании, квартальный рост составил 61% по сравнению с прошлым годом.
До недавнего времени большая часть модерации контента Facebook проводилась за пределами США. Но сейчас он привлекает контрагентов в Калифорнии, Аризоне, Техасе и Флориде.
Facebook был придуман в США, и это одна из стран, где социальная сеть наиболее популярна. Американские модераторы находятся внутри культурного контекста, что необходимо для оценки контента, генерируемого пользователями в Соединенных Штатах. Иностранец не всегда сможет понять сленг или различить завуалированное разжигание ненависти.
По словам Боба Дункана, который отвечает в Cognizant за модерацию всего контента в Северной Америке, на собеседовании претендентам наглядно показывают, с чем им придется столкнуться.
“Мы сразу демонстрируем им примеры того, что они могут увидеть, чтобы у них изначально сформировалось понимание. Нам важно, чтобы люди осознавали, на что они идут, и могли принять адекватное решение о том, подходит им такая работа”, - говорит он.
По словам Дункана, часто люди извне представляют место работы его сотрудников, как темный подвал, уставленный мерцающими мониторами.
Если говорить об офисе в Фениксе, то это совсем не похоже не правду. Светлое помещение с рядами компьютерных столов, действительно, может отдаленно напоминать штаб-квартиру Facebook в калифорнийском Менло-Парк.
Но в офисе Cognizant заметно теснее, а стояние в очереди в туалет зачастую занимает большую часть перерыва сотрудников.
И в то время как работники Facebook имеют свободу самостоятельно организовывать свой рабочий день, для работающих в Фениксе все рассчитано руководством до минуты.
***
Модератор контента Мигель приходит на дневную смену незадолго до ее начала, в 7 часов утра. Он один из примерно 300 человек, которые рано утром займут свои места в офисе в Фениксе.
Сотрудники службы безопасности внимательно отслеживают входящих, чтобы не пропустить недовольных бывших сотрудников и неадекватных пользователей Facebook, которые мечтают объясниться с модераторами из-за удаленных постов.
Войдя в здание, Мигель первым делом направляется к шкафчикам. Их едва хватает на всех сотрудников, поэтому некоторые оставляют в них вещи на ночь, чтобы ни о чем не волноваться следующим утром.
Шкафчики расставлены в узком коридоре, который во время перерыва набивается людьми. Чтобы защитить конфиденциальность пользователей Facebook, чьи сообщения просматривают модераторы, те должны хранить свои телефоны под замком в течение рабочего дня.
На столе запрещено иметь письменные принадлежности на тот случай, если у условного Мигеля вдруг возникнет соблазн записать личные данные кого-то из пользователей Facebook.
Это правило распространяется даже на бумажный мусор, например, обертки конфет. Мелкие личные вещи, такие как крем для рук, должны лежать в прозрачных пластиковых пакетах, содержание которых могли бы видеть руководители.
Люди работают в четыре смены и, учитывая также сильную текучку кадров, ни у кого из модераторов нет постоянного рабочего места. Мигель просто находит свободный компьютер, входит в систему под своим логином, нажимает кнопку “возобновить рецензирование” и погружается в бесконечную ленту постов.
В апреле прошлого года Facebook обнародовал свои стандарты, с помощью которых он пытается совладать с 2,3 миллиардами пользователей ежемесячно. Чтобы следовать им, огромная глобальная армия низкооплачиваемых работников старается последовательно их применять, несмотря на почти ежедневные изменения и уточнения.
Задачу осложняет частое недопонимание модераторами контекста, неоднозначность многих постов и внутренняя борьба сотрудника между правилами и здравым смыслом.
Мигель старательно следует политике компании - хотя, как он сам признается, зачастую все это кажется ему бессмысленным.
Пост со словами: “Людей с аутизмом следовало бы стерилизовать” кажется ему оскорбительным, но по правилам его можно оставить, так как аутизм не значится среди “защищенных характеристик”, таких как, например, раса и пол.
Пост со словами: “Мужчин следовало бы стерилизовать” подлежал бы безоговорочному удалению.
В январе этого года Facebook обновил правила, согласно которым модераторы должны учитывать недавние романтические неурядицы при оценке сообщений, выражающих ненависть к определенному полу. “Я ненавижу всех мужчин” - нарушение политики соцсети. “Я только что рассталась со своим парнем и ненавижу всех мужчин” - теперь вполне допустимо.
При оценке публикаций перед Мигелем стоят две задачи. Во-первых, он должен определить, нарушает ли пост установленные стандарты. Затем нужно выбрать правильную причину, по которой опубликованное является нарушением. Если он точно распознает, что сообщение должно быть удалено, но выберет неверное обоснование, это повлияет на оценку его точности.
Мигель неплох в своей работе. Он принимает правильные решения относительно большинства постов, помогая Facebook очиститься от самого ужасного контента. Он тратит около 30 секунд на публикацию, а их перед его глазами за день проходят сотни.
Когда у Мигеля возникает вопрос, он поднимает руку, и к нему подходит “профильный специалист”. Предполагается, что он имеет более полное представление о политике Facebook. За это ему платят на доллар в час больше, чем Мигелю.
Конечно, консультация займет время, и хотя у Мигеля нет лимита на просмотр одного поста, менеджеры, следящие за его производительностью, попросят объяснений, если число проверенных публикаций упадет до 200 за смену.
Из примерно 1,5 тыс. решений Мигеля Facebook выбирает случайным образом 50 или 60 для аудита.
Эти посты проверяются специалистом по обеспечению качества Cognizant. Он также зарабатывает на доллар в час больше, чем Мигель. Затем штатные сотрудники Facebook проверяют некоторые решения специалиста по обеспечению качества, и на основе этих данных выводят оценку точности.
Но Мигель не сильно верит в этот показатель.
“Если бы и я, и мой аудитор из Cognizant одобрили пост о продаже героина, то это пошло бы в плюс для оценки нашей работы, потому что мы оба пришли к одному выводу”, - говорит Мигель.
***
Facebook вот уже много лет находится под гнетом критики по поводу модерации. Каждый день появляются миллиарды новых сообщений, и социальная сеть испытывает давление со всех сторон.
Компания подвергалась нападкам за то, что сделала недостаточно, например, при распространении антигуманных высказываний в связи со всплеском новостей о геноциде мусульман-рохинджа в Мьянме. Facebook критиковали и за чрезмерное усердие - когда модератор удалил пост с Декларацией независимости США. Для Томаса Джефферсона в итоге было сделано исключение из правил Facebook, которые запрещают использование фраз типа “индейцы-дикари”.
Но факт в том, что у модераторов для любого конкретного решения есть несколько источников правды.
Каноническим являются руководящие принципы Facebook, которые состоят из двух частей: общедоступных и более обширных внутренних правил, которые содержат детальную информацию по сложным вопросам. Последние дополняются комментариями и рекомендациями по проблемам модерации - это своего рода внутренний Талмуд Facebook.
Третий источник правды - дискуссии, которые ведут модераторы во время работы между собой. Если случается событие, новости о котором информагентства обычно помечают как “молния”, на модераторов обрушивается волна разного рода контента, и они должны за минуты определить, соответствует ли он правилам.
Четвертый пункт, пожалуй, самый проблемный - это внутренние технические инструменты Facebook.
В то время как официальные изменения в политике компании обычно выходят каждую вторую среду, дополнительные рекомендации по сложным вопросам появляются почти ежедневно. Эти руководства публикуются в Workplace - корпоративном внутреннем Facebook для работников.
Как и в самой соцсети, в Workplace имеется лента новостей, подобранных алгоритмически, в ней ранжируются сообщения по степени вовлеченности пользователей в тему.
В те дни, когда происходят крупные события, например, теракт или стрельба в школе, менеджеры часто публикуют во внутренней сети противоречивые указания по поводу модерации контента, которые в итоге отображаются не в хронологическом порядке.
Многие бывшие и нынешние сотрудники рассказывали, что допускали ошибки из-за того, что наверну их ленты оказывались устаревшие инструкции. Кажется, иногда собственный продукт Facebook работает против его же модераторов.
***
Перед тем как пойти на перерыв Мигель должен отправить уведомление во внутренней системе, чтобы в Cognizant знали, что он покидает рабочее место.
Мигелю положены два 15-минутных перерыва и один 30-минутный - обеденный.
Первое, с чем он сталкивается - это длинные очереди в туалет. В офисе в Фениксе на сотни сотрудников только две кабинки в мужской комнате и три в женской. Со временем Cognizant разрешил сотрудникам пользоваться туалетом на другом этаже, но дорога туда и обратно съедает драгоценные минуты перерыва.
Когда Мигель отстоит очередь и проберется сквозь толпу к своему шкафчику, у него останется меньше пяти минут, чтобы проверить телефон.
Сотрудники Cognizant также имеют право на девятиминутный “оздоровительный перерыв”, им можно воспользоваться, если модератор чувствует недомогание или сильный стресс. Однако большинство использовали это время для похода в туалет, когда очереди становились короче.
Когда в руководстве это поняли, работникам запретили использовать время “оздоровительного перерыва” не по назначению.
Недавно группа модераторов, нанятых через компанию Accenture в Остине, жаловалась на “бесчеловечную” регламентацию перерывов. В Facebook, узнав об этом, заявили, что контрагент неправильно понял политику компании.
В Фениксе руководство как-то раз запретило модератору-мусульманину использовать “оздоровительный перерыв” для молитвы. Все его коллеги были в недоумении от такого решения.
***
Справляться со стрессом, полученным во время работы, сотрудникам Cognizant помогают специальные консультанты. Также можно позвонить на “горячую линию” или посетить несколько сеансов у психолога.
Недавно к этим опциям прибавились занятия йогой для сотрудников и некоторые другие программы. Однако больше половины из тех, кто согласился рассказать о своей работе для этой статьи, говорили, что не считают такую поддержку адекватной.
Они справились со стрессом на работе другими способами - с помощью секса, наркотиков и черного юмора.
Сотрудники Cognizant занимались сексом в офисных туалетах, на пожарной лестнице, парковке и в комнате для кормящих матерей.
В начале 2018 года сотрудники службы безопасности разослали руководителям предупреждения о поведении их сотрудников. В итоге администрация сняла замки с комнаты для кормящих матерей. Позже их вернули, но чтобы попасть туда, теперь нужно просить ключ у руководства.
Бывший модератор по имени Сара считает, что обязательство о неразглашении в сочетании со стрессом заставляет сотрудников сближаться.
“У вас очень быстро формируются тесные связи с коллегами. Когда вам не разрешают обсуждать свою работу с родными или друзьями, это создает дистанцию, и вы начинаете чувствовать себя ближе к людям в офисе. Это похоже на эмоциональную связь, но, на самом деле, это травмирующая привязанность”, - говорит она.
Помогают справляться со стрессом также наркотики и алкоголь. Бывший модератор Ли рассказал, что курил марихуану во время рабочего дня практически ежедневно (употребление медицинской марихуаны легально в Аризоне). По его словам, в перерывах сотрудники выходят на улицу целыми группами, чтобы затянуться косячком.
“Даже не могу посчитать со сколькими коллегами я курил во время смены. Мы спускались на улицу, обкуривались и шли обратно работать. Это непрофессионально. Только представьте, что такое делают на работе люди, модерирующие контент крупнейшей в мире социальной сети”, - говорит он.
Ли вспоминает, что за всю свою жизнь не слышать столько грязных шуток, сколько на той работе. Сотрудники, пытаясь поднять себе настроение, соревновались, кто пошлет другому самый расистский или оскорбительный мем.
Как представитель этнического меньшинства, Ли часто становился мишенью для своих коллег. Но он не обижался и воспринимал довольно жесткие расистские шутки как дружеские подколы. Но со временем он стал беспокоиться о своем психическом здоровье.
“Наши души становились черными, от того, что мы творили. Ведь те вещи, которые заставляли нас громче сего смеяться, на самом деле наносили нам вред. Я должен был постоянно держать себя под контролем, когда шутил на публике, но все равно часто говорил оскорбительные вещи. После этого я ругал себя: черт, Ли, ты же не на работе, а в супермаркете, нельзя так говорить”, - рассказывает он.
Как вспоминает Сара, в самые плохие дни обычно шутили насчет того, что пора бы пойти потусоваться на крышу. Черный юмор строился вокруг того, что в один прекрасный день кто-нибудь из сотрудников, не выдержав всего происходящего, обязательно сиганет вниз.
***
Как и большинство модераторов, с которыми удалось пообщаться, Хлоя ушла примерно через год.
Помимо всего прочего ее беспокоили распространение теорий заговора среди коллег. Один из них часто обсуждал теорию о плоской Земле и активно пытался заставить окружающих поверить в нее. Коллега Мигеля однажды небрежно произнес “Холохокс” (англ. Holohoax, где hoax - ложь, обман) что натолкнуло на мысль, что этот человек отрицает Холокост.
После стрельбы в школе в Паркленде в прошлом году (тогда погибли 17 человек), модераторы сначала были в ужасе. Но по мере того, как в Facebook и Instagram выкладывалось больше материалов о якобы имевшем место заговоре, некоторые из коллег Хлои начали сомневаться (согласно одной из таких теорий, массовое убийство было инсценировано, чтобы ужесточить контроль над продажей оружия).
“Люди действительно начали верить тем постам, которые должны были модерировать. Они говорили: черт возьми, этих детей там действительно не было, посмотрите на парня с того видео, он староват для того, чтобы учиться в школе. Вместо того чтобы выполнять свою работу, они начали гуглить и изучать теории заговора. Мы говорили им: ребята, это просто сумасшедшие домыслы, которые мы должны модерировать, что вы делаете”, - вспоминает Хлоя.
Однако больше всего она беспокоилась о долгосрочном влиянии работы на свое психическое здоровье. Несколько модераторов говорили, что у них возникли симптомы вторичного травматического стресса - расстройства, которое может возникнуть в результате наблюдения травмы, пережитой другими людьми.
Это нарушение, симптомы которого могут быть идентичны посттравматическому стрессовому расстройству, часто наблюдается у врачей, психотерапевтов и соцработников. Люди, получившие вторичный травматический стресс часто страдают от приступов беспокойства, потери сна и чувства отчужденности.
Хлоя испытывала травматические симптомы в течение нескольких месяцев после ухода с работы. Однажды у нее началась паническая атака в кинотеатре, когда одна из сцен фильма напомнила ей то первое видео с убийством человека. В другой раз у нее случился приступ паники, когда она проснулась дома на диване от звука пулеметной очереди. Оказалось, кто-то из домочадцев громко включил телевизор.
***
Facebook в ответ на журналистский запрос, связанный с подготовкой этого материала, согласился организовать экскурсию по офису в Фениксе и дать возможность пообщаться с действующими сотрудниками. Пресс-секретарь уверяла, что рассказанные бывшими модераторами истории не отражают реального положения вещей.
По первому впечатлению, офис оказался более комфортным и благоустроенным, чем можно было себе представить. На электронном табло на стене - расписание мероприятий в этом месяце.
Предлагаемые активности - что-то среднее между развлечениями в летнем лагере и доме престарелых: йога, медитация, терапия с домашними животными и нечто под названием “по средам мы носим все розовое”.
В тот день было окончание недели случайных актов доброты, в ходе которой сотрудникам предлагалось писать воодушевляющие записки на разноцветных листочках и прикреплять их на доску.
После встречи с руководителями Cognizant и Facebook, как и было обещано, состоялась беседа с действующими модераторами, на которую пришел и их руководитель. Все они соглашались, что работа непростая и бывают трудности, но уверяли, что чувствуют себя в безопасности и надеются на карьерный рост в Cognizant, а возможно, даже в Facebook.
Руководитель модераторов - менеджер по имени Брэд - говорил, что большая часть контента, которую отсматривают его подопечные, довольно безобидна. Он призывал не преувеличивать степень стресса и угрозы психологическому здоровью сотрудников.
“Бытует мнение, что нас просто заваливают жестким контентом, но, на самом деле, это не так. В большинстве постов ничего ужасного нет. Люди жалуются на фотографии и видео просто потому, что им что-то не понравилось, а не из-за того, что были нарушены правила”, - говорит он.
Когда разговор зашел о сложностях модерации и применения правил, сотрудники согласились с тем, что нередко оказываются в тупике. Но, по словам одного из них, это делает работу только интереснее.
“Варианты того, с чем ты столкнешься, берясь за следующее задание, бесконечны. Это кажется полнейшим хаосом, но одновременно и пробуждает интерес. Невозможно отработать смену, точно зная ответы на все вопросы”, - говорит модератор по имени Майк.
По его словам, то, чем он занимается сейчас, намного лучше его предыдущей работы в Walmart, где ему часто приходилось иметь дело со скандальными клиентами.
“Тут, по крайней мере, нет никого, кто орет мне прямо в лицо”, - констатирует он.
***
Все модераторы, с которым удалось пообщаться, как на условиях анонимности, так и в офисе, были едины в одном - они очень серьезно относились к своей работе и считали ее важной. И всем им хотелось бы, чтобы сотрудники Facebook воспринимали их, как равных и относились к ним соответственно.
“Если бы мы не делали эту работу, Facebook был бы просто ужасен, - говорит Ли. - Мы просматриваем это все от его имени. И да, черт возьми, иногда мы принимаем неверные решения. Но пользователи не понимают, что за всем этим стоят живые люди”.
Пользователи обычно не задумываются о том, что есть люди, выполняющие эту работу, и конечно, это неспроста.
Facebook скорее расскажет о своих достижениях в области искусственного интеллекта, чем о том, насколько сильна его зависимость от живых модераторов.
Но, учитывая пределы развития технологий и бесконечное разнообразие человеческой речи, тот день, когда социальная сеть избавится от этой зависимости, кажется очень далеким.
Сам процесс модерации контента наносит серьезный психологический урон многим сотрудникам. Фактически они работают на передовой, выполняя важную для гражданского общества функцию, получая за это совсем не большие деньги. Справляясь со стрессом, они выполняют свою работу так долго, как могут, а уходя, оказываются еще больше в тени, что обеспечивает договор о неразглашении.
