Современную жизнь сложно представить без Facebook. Сегодня количество активных пользователей социальной сети приближается к отметке в 2,8 млрд в месяц. Это больше трети населения планеты и больше половины общего числа интернет-пользователей в мире.
Социальная сеть напоминает нам о важных датах, служит источником новостей и выступает трибуной, с которой можно заявить о своих достижениях или просто пожаловаться на жизнь или невероятную жару. Это лишь малая часть возможностей социальной сети. В последние годы она стала силой, способной влиять на глобальные события. Она помогает устраивать революции, оказывать влияние на результаты важнейших голосований, распространять сомнительную информацию и идеи. Осознав эту силу, не без помощи громких скандалов, Facebook начал подчищать содержимое платформы. Вот только порой он слишком старается.
К примеру, в 2015 году соцсеть заблокировала аккаунт инженера из Сан-Франциско Исиды Анчали. Девушке не повезло, ведь ее настоящее имя на английском пишется «Isis» — так же, как название террористической организации Исламское государство Ирака и Леванта — ИГИЛ (на английском — ISIS).
За другими примерам далеко ходить не нужно — украинские пользователи также сталкивались со случаями блокировки. Подтверждением служит история коллекционера, исследовательницы и блогера Устины Стефанчук. В этом месяце она разместила в Facebook пост, посвященный преступлениям советской армии, отступавшей со Львова после нападения Германии в 1941 году. Сообщение носило исторический характер, однако соцсеть сначала удалила его, а затем заблокировала аккаунт автора, и вернула доступ только через несколько дней.
Украинский посол в Чехии Евгений Перебийнис тоже пострадал от модерации контента на Facebook. Соцсеть удалила его пост с критикой слов Владимира Путина о том, что россияне и украинцы — один народ. Позже и это решение она отменила, а пост вернулся на место.
В любом случае, истории с блокировками постов и аккаунтов — отнюдь не редкость. Вот мы и решили выяснить, за что же можно попасть в немилость самой крупной соцсети мира, и как этого не допустить.
Истоки проблемы находятся в «Нормах сообщества» — весьма объемном документе, регулирующем правила поведения на платформе. Это один из основных законов для «граждан» Facebook, состоящий из шести разделов. В них содержится список того, чего пользователям сети нельзя делать. Например, нельзя призывать к самоубийству и насилию, публиковать контент порнографического характера, проводить оскорбительные сравнения представителей разных рас и национальностей с насекомыми и животными, использовать мат и многое другое.
С этими запретами сложно спорить. Большинству людей вряд ли захочется, чтобы что-то подобное распространялось в самой крупной социальной сети планеты. Но почему в бан иногда попадают посты и люди, не намеренные демонстрировать миру нечто противоречащее нормам? Если коротко, то огромная машина Facebook допускает ошибки.
И машина в данном случае — не фигура речи. Взять, например, враждебные высказывания, они же язык вражды, они же hate speech. В «Нормах сообщества» к таким относятся упомянутые сравнения (например, нельзя сравнивать чернокожих людей с сельхозтехникой (ИНФО: Скорее всего, это связано с отсылками к теме рабства) и ругательства, а также категорические проявления непринятия («терпеть не могу», «мне плевать» и т. д.), выражения, связанные с отклонением от нормы («чудак», «ненормальный» и т.п.) и многое другое.
Как рассказал Chas News Никита Рожков, маркетолог, основатель агентства рекламы в соцсетях Socials Agency, за hate speech на платформе следит система искусственного интеллекта, внедренная в прошлом году. «Согласно последнему отчету о контроле соблюдения норм сообщества, ИИ определяет и автоматически банит hate speech в 97% случаев, а остальные 3% — результат жалоб пользователей», — говорит он.
В 2017 году, когда Facebook начал отчитываться в положении дел с языком вражды на платформе, ее проявления без вмешательства пользователей удавалось выявить всего в 23,6% случаев. Теперь, благодаря ИИ, этот показатель существенно вырос.
Конечно, остается еще 3% жалоб от пользователей, в качестве которых вполне могут выступать и боты. В этом плане Украина находится в невыгодном положении. По данным Facebook за 2017–2020 года, она входит сразу в два топ-5 стран, наиболее подверженных атакам ботов, как со своей территории, так и снаружи. Однако случаи жалоб также рассматриваются ИИ.
О развитии искусственного интеллекта (ИИ) сегодня много говорят. Зарубежные футурологи считают, что именно эта технология больше всего повлияет на нашу жизнь в ближайшие два-три десятилетия. Почему же она подводит современных пользователей?
По словам Рожкова, на службе Facebook стоит много систем ИИ, и каждая предназначена для решения конкретной задачи. Это вполне естественно, ведь современный искусственный интеллект не может добиться успеха в нескольких отраслях сразу. Гениально играющая в шахматы система не сможет искать раковые опухоли на снимках.
Вот и в Facebook один из ИИ занимается переводом постов, в том числе и с украинского, а затем передает их другому ИИ, который анализирует содержимое через призму «Норм сообщества» и принимает решения, пропускать их или блокировать.
«Соответственно те нюансы, которые могут присутствовать в нашей культуре, машина Facebook не обнаружит», — отмечает украинский SMM-специалист.
Казалось бы, вот мы и дожили до того, что машина решает, что можно говорить (или в данном случае писать), а что — нет. Это уже не «большой брат», а самый настоящий Скайнет. Но не торопитесь бежать за Джоном Коннором, Facebook пока не отказался от услуг людей. Но им ошибки присущи не меньше, чем ИИ. Тем более если приходится работать в текущих условиях.
Согласно прошлогоднему докладу Школы бизнеса Штерна при Нью-Йоркском университете, модерацией контента, производимой миллиардной аудиторией Facebook и Instagram, занимается 15 тыс. человек. При этом большинство из них не являются штатными сотрудниками компании, а работают на аутсорсе.
Как признавался сам основатель соцсети Марк Цукерберг три года назад, «модераторы принимают ошибочное решение раз в десять случаев». О точном количестве постов, с которыми им приходится иметь дело, речь не шла, но авторы доклада предлагают цифру в 3 млн в течение дня. При доле ошибок в 10% их каждый день происходит по 300 тыс. А это еще очень скромная оценка для сети почти с тремя миллиардами пользователей.
Отталкиваясь от количества в 3 млн постов, можно произвести и другие расчеты. Это число означает, что на каждого из 15 тыс. модераторов каждый день приходится по 200 постов. То есть, за восьмичасовую смену один работник пересматривает около 25 публикаций каждый час. На просмотр и принятие решения по каждой из них у него есть 144 секунды.
Это откровенно короткий промежуток времени. Тем более что внутренние правила Facebook, на которые опираются модераторы, не назовешь легким чтивом. В 2018-м издание The New York Times получило образец такого свода правил от одного из сотрудников компании. Материалы насчитывали около 1,4 тыс. страниц, содержащих презентации PowerPoint и таблицы Excel.
Как бы ни изменилась ситуация за прошедшие три года, кое-что осталось, как и раньше: Facebook все еще гигантская сеть, генерирующая астрономическое количество контента. А это подталкивает к по-человечески понятному выводу.
«Facebook легче забанить один конкретный пост, чем разбираться в деталях, что именно там подразумевалось», — резюмирует Рожков.
От ошибок, как своих, так и чужих, никто не застрахован. Но это еще не значит, что абсолютно ничего нельзя сделать, если не хочется столкнуться с блокировкой аккаунта или публикаций. Когда не понятно, как что-то работает, самым очевидным решением будет почитать инструкцию, не дожидаясь, когда это что-нибудь сломается. В данном случае речь идет о тех же «Нормах сообщества». Это не самое легкое чтиво, написанное формальным языком компании, которое регулярно сталкивается с критикой. Так что, возможно, всех вопросов оно и не снимет, но поможет лучше ориентироваться в требованиях социальной сети. По словам Рожкова, это может пригодиться при подаче апелляции Facebook, если блокировка учетного аккаунта или поста все же случится.
Кроме того, следует внимательнее относиться к содержанию своих публикаций. Да, машина может и не понять, что вы имели в виду под тем или иным высказыванием, а человеку может не хватить времени, чтобы вникнуть в суть вашей мысли. Но вам, как пользователю, это по силам. «Важно понимать, что в целом позиция Facebook совпадает с общемировым трендом по соблюдению толерантности», — отмечает Рожков.
Поэтому, публикуя пост, стоит задуматься: не противоречит ли он каким-то образом этой тенденции, не может ли кого-нибудь задеть за живое. И если такая возможность существует, то подумать о том, как его лучше преподнести, стараясь излагать мысли максимально четко.
Такой подход может показаться слишком трудоемким. Но, с другой стороны, люди, которые посреди улицы или площади громко и агрессивно выражают свое мнение (каким бы оно ни было), обычно получают в свой адрес косые взгляды окружающих. В некотором смысле Facebook — такая же площадь.
Наконец, следует помнить о том, что не все проблемы, которые вы раскрываете в публикациях, одинаковы. «Если хочется писать на темы, вокруг которых идет общественная дискуссия, то к ним внимание и людей, и алгоритмов будет больше, чем к lifestyle-блогу», — говорит Рожков.
В современном мире некоторые технологии развиваются быстрее, чем люди успевают составить исчерпывающий список правил работы с ними. Facebook — наглядное тому подтверждение. Работа соцсети с пользователями, их данными и контентом, далека от идеала, мягко говоря. И в некоторых моментах, когда тяжелая машина, поглощающая все большее количество людей, буксует, полагаться остается только на собственную рассудительность и осторожность.
