Существование Facebook тесно связано со скандалами и разоблачениями — многочисленные утечки данных, Cambridge Analytica и обвинения в манипуляции выборами, работа российской «фабрики троллей». Это лишь часть проблем Facebook, о которых становилось известно широкой общественности. Тем не менее, соцсеть Цукерберга оставалась крупнейшей социальной платформой мира и наращивала аудиторию и доходы.
Однако сейчас компания переживает едва ли не самый большой кризис за свою 17-летнюю историю. И совсем не очевидно, что сможет его преодолеть без глобальных последствий для будущего. Последние разоблачения могут активизировать расследование деятельности Facebook со стороны антимонопольных органов и побудить американских регуляторов к более жестким шагам в отношении империи Марка Цукерберга. Все это, на фоне практически уничтоженной репутации компании и старения аудитории соцсети, может привести к последствиям, которые еще два года назад было трудно представить: Facebook рискует потерять лидерство в интернет-мире.
The Facebook Papers: как журналисты 17 изданий пытались понять Facebook
В конце сентября Фрэнсис Хоген (Frances Haugen), бывшая сотрудница Facebook, обнародовала документы, касающиеся внутренней «кухни» компании. На основании этих документов журналисты рассказали о проблемах Facebook, связанных с негативным влиянием платформы на своих пользователей и общество в целом. 5 октября Хоген давала показания перед Конгрессом, объясняя, как работают продукты Facebook.
Однако ее сообщения оказались лишь частью секретов Facebook. Журналисты 17 американских изданий объединились в группу, которая изучала документы, переданные Фрэнсис Хоген. Результатом их анализа стала серия публикаций под названием The Facebook Papers.
25 октября СМИ начали публиковать новые материалы по результатам анализа The Facebook Papers. Эти истории базируются не только на данных, полученных от Хоген, но и на показаниях и сообщениях сотрудников компании. Chas News проанализировал часть опубликованных материалов The Facebook Papers и выделил самые главные проблемы социальной сети, описанные в них.
Впрочем, обнародование результатов анализа The Facebook Papers еще продолжается и понять весь масштаб проблем, сопровождавших работу соцсети, можно будет позже.
Языковые истории Facebook
Одной из наиболее серьезных проблем соцсети стала модерация контента. Компанию часто обвиняют в том, что она не справляется с анализом контента в неанглоязычных версиях. После 2017 года, когда платформу обвинили в поддержке геноцида в Мьянме, Facebook пообещал тратить больше денег на модерацию. Однако ситуация практически не изменилась.
В документах The Facebook Papers говорится, что компания имеет очень мало модераторов, обладающих арабскими диалектами. Это разоблачение дополнил недавний скандал вокруг того, что некоторые неанглоязычные модераторы (в том числе и работающие с материалом на украинском языке) получают очень небольшие деньги. Поэтому компания не справляется с потоками фейков, манипуляций и языка ненависти в отдельных странах.
Одной из жертв такого контента стала нобелевская лауреатка Мария Ресса, которая столкнулась с потоками обвинений, оскорблений и угроз от нанятых троллей, с которыми Facebook особо ничего не делал, несмотря на ее постоянные жалобы.
В одном из документов упоминается, что 87% бюджета на разработку алгоритмов обнаружения фейков и манипуляций компания тратила на США и только 13% — на алгоритмы для языков других стран.
Алгоритмические истории Facebook
Несколько документов показывают, что в Facebook не совсем понимают, как работают алгоритмы отбора и рекомендации контента. Однако в компании знали, что «основные системы Facebook действительно демонстрировали системные предубеждения, основанные на расе пользователя».
В The Facebook Papers имеется документ исследователей, которые оценили, что Facebook реагирует лишь на 3-5% сообщений о языке ненависти и на 0,6% материалов с элементами насилия. В этом же документе представители компании признают, что им никогда не удастся преодолеть рубеж блокировки 10-20% сообщений с hate-speech из-за того, что алгоритмы не могут понять контекст сообщения и оценить контент, на который нужно реагировать.
Для руководства Facebook не было секретом, что кнопки Like и Share способствовали усилению языка ненависти. В записке под названием «Что такое побочный ущерб» (What Is Collateral Damage) говорилось, что если не исправить проблему с этими кнопкам, она лишь усугубится в будущем.
Facebook и нападение на Капитолий
Еще одна серьезная провинность Facebook — слишком медленная реакция на манипулятивный и фейковый контент 6 января 2021 года, день нападения на Капитолий сторонниками Дональда Трампа.
Внутренние документы показали, что у компании не было четкой схемы работы с контентом, который делегитимизировал выборы в США. Такого рода сообщения Facebook отнес к «вредным, которые не нарушают правила» и практически не реагировал на них.
Во внутренних чатах сотрудники Facebook жаловались на то, что они постоянно рекомендовали компании, как ей лучше реагировать на спорный контент, в том числе на насильственные заявления поклонников Qanon. Но руководство либо не реагировало на эти предложения, либо сдерживало слишком активных работников.
Вечером 5 января, перед атакой на Капитолий, специалисты по анализу контента видели нарастание фейковых и манипулятивных сообщений, связанных с результатами выборов в США. Однако они вовремя не получили разрешение реагировать на это, а указания руководства были довольно расплывчаты.
Серая зона контента и политика «подождем и увидим»
В документах The Facebook Papers часто упоминается понятие «серой зоны контента» — речь о вредоносных материалах, явно не нарушающих правила Facebook. Среди них были и сообщения тех, кто поддержал нападение на Капитолий 6 января. Также к этой категории относится контент, в котором выражаются сомнения в целесообразности вакцинации.
В таких случаях Facebook часто не реагирует или пользуется принципом свободы слова, оставляя эти материалы на платформе. Реакция на такие сообщения усложняется еще и существованием контекста, который может изменять суть опубликованного или иметь разное значение в разных культурах. Впрочем, специалисты по обработке данных предупреждали компанию: «серый контент» является серьезной проблемой, «требующей новых решений».
Еще одна серьезная проблема компании относительно спорного наполнения — политика «подождем и увидим» вместо проактивной реакции на дезинформацию, о которой так любит говорить Цукерберг. Эта политика предполагает, что компания не решает проблемы, пока они не станут действительно серьезными. Именно такой подход и превратил Facebook в одну из основных платформ координации действий во время нападения на Капитолий 6 января.
Facebook-ложь об аудитории
Важной проблемой, о которой стало известно с The Facebook Papers, и о которой говорила Фрэнсис Хоген, стали данные об использовании Instagram. Именно этот продукт стал флагманским в триумвирате Facebook-Instagram-WhatsApp и именно в его развитие компания активно инвестировала в последнее время. Однако, как оказалось, использование Instagram уменьшается, а в целом аудитория Facebook стареет: молодые люди выбирают альтернативные соцсети и не хотят пользоваться платформой, вызывающей у них негативные эмоции.
Instagram теряет молодую аудиторию уже несколько лет. В компании об этом знали, но замалчивали статистику, обманывая инвесторов. Facebook рапортовал о хороших показателях роста, «рисуя» результаты за счет включения в статистику профайлов-дубликатов уже существующих пользователей Instagram, получивших название Finstas — fake instagrams. Эти профайлы использовались в качестве вспомогательных или для управления другими аккаунтами.
Статистика The Facebook Papers свидетельствует, что в реальности с 2019 года число пользователей Instagram среди подростков в США снизилось на 13% и, по прогнозам, в ближайшие два года снизится еще на 45%. Также падение ожидается среди аудитории в возрасте 20-30 лет, правда, всего на 4%.
Во внутренних документах эти данные названы серьезной проблемой и отмечено, что если ситуация не изменится, компания может потерять целое поколение пользователей.
Призрачное будущее социального гиганта
Это всего некоторые из проблем, обнаруженных The Facebook Papers. Журналисты нашли доказательства и того, что компания знала, что ее платформы используют для торговли людьми, но отдавала себе отчет, что ограничение некоторых ее функций негативно повлияет на прибыль, поэтому не реагировала. Подтвердилась и история о «белом списке» пользователей, которым разрешалось нарушать правила соцсети.
Похоже, что бедам компании, основанной в комнате общежития студентом Марком Цукербергом, не видно конца. Уже известно, что Сенат активизирует расследование деятельности Facebook и ждет показаний от ее генерального директора.
Однако, если абстрагироваться от деятельности регуляторов, которые попытаются понять, как реагировать на эти разоблачения и что делать с социальным монстром, возникает вопрос: способен ли Facebook вообще измениться и перестать быть наиболее манипулятивным и одним из самых опасных онлайн-сервисов? Превратился ли он в колосс на глиняных ногах, создавший мир, которым не способен управлять?
