Getty Images

Сучасне життя важко уявити без Facebook. Сьогодні кількість активних користувачів соціальної мережі наближається до позначки 2,8 млрд. на місяць. Це більше третини населення планети і понад половина загального числа інтернет-користувачів у світі.

Соціальна мережа нагадує нам про важливі дати, служить джерелом новин та виступає трибуною, з якої можна заявити про свої досягнення чи просто пожалітись на життя або неймовірну спеку. Це лише мала частка можливостей соціальної мережі. За останні роки вона стала силою, здатною впливати на глобальні події. Вона допомагає влаштовувати революції, впливати на результати найважливіших голосувань, поширювати сумнівну інформацію та ідеї. Усвідомивши цю силу, не без допомоги гучних скандалів, Facebook почав підчищати вміст платформи. От тільки часом він аж надто старається.

Наприклад, в 2015 році соцмережа заблокувала акаунт інженера з Сан-Франциско Ісіди Анчалі. Дівчині не пощастило, адже її справжнє ім'я англійською пишеться «Isis» — так само, як і назва терористичної організації Ісламська держава Іраку та Леванту — ІДІЛ (англійською — ISIS).

Устина Стефанчук розмістила в Facebook пост, присвячений злочинам радянської армії, що відступала зі Львова після нападу Німеччини в 1941 році. Повідомлення носило історичний характер, однак соцмережа спершу видалила його, а потім заблокувала акаунт автора

За іншими прикладами далеко ходити на треба українські користувачі теж стикалися з випадками блокування. Підтвердженням служить історія колекціонера, дослідниці і блогера Устини Стефанчук. В цьому місяці вона розмістила в Facebook пост, присвячений злочинам радянської армії, що відступала зі Львова після нападу Німеччини в 1941 році. Повідомлення носило історичний характер, однак соцмережа спершу видалила його, а потім заблокувала акаунт автора, і повернула доступ лише за кілька днів.

Український посол в Чехії Євген Перебийніс теж постраждав від модерації контенту на Facebook. Соцмережа видалила його пост з критикою слів Володимира Путіна про те, що росіяни і українці — один народ. Пізніше і це рішення вона скасувала, а пост повернувся на місце.

У будь-якому разі історії з блокуваннями постів і акаунтів — аж ніяк не рідкість. От ми і вирішили з'ясувати, за що ж можна потрапити в немилість найбільшої соцмережі світу, і як цього не допустити.

Потрапити під машину

Витоки проблеми знаходяться в «Нормах спільноти» — вельми об'ємному документі, що регулює правила поведінки на платформі. Це один з основних законів для «громадян» Facebook, котрий складається з шести розділів. В них міститься перелік того, чого користувачам мережі не можна робити. Наприклад, не можна закликати до самогубства і насильства, публікувати контент порнографічного характеру, проводити образливі порівняння представників різних рас і національностей з комахами і тваринами, використовувати матюки і багато іншого.

З цими заборонами важко сперечатися. Більшості людей навряд чи захочеться, аби щось подібне поширювалося в найбільшій соціальній мережі планети. Але чому в бан часом потрапляють пости і люди, що не мають наміру демонструвати світові щось, що суперечить нормам? Якщо коротко, то величезна машина Facebook припускається помилок.

Микита Рожков

І машина в даному випадку — не фігура мови. Взяти, приміром, ворожі висловлювання, вони ж мова ворожнечі, вони ж hate speech. У «Нормах спільноти» до таких належать згадані порівняння (наприклад, не можна порівнювати чорношкірих людей з сільгосптехнікою(ІНФО: Скоріш за все, це пов’язано з відсилками до теми рабства) і лайка, а також категоричні виявлення неприйняття («терпіти не можу», «мені плювати» і т. д.), вирази, пов’язані з відхиленням від норми («дивак» , «ненормальний» тощо) і багато іншого.

Як розповів Chas News Микита Рожков, маркетолог, засновник агентства реклами в соцмережах Socials Agency, наразі за hate speech на платформі стежить система штучного інтелекту, впроваджена минулого року. «Згідно з останнім звітом про контроль за дотриманням норм спільноти, ШІ визначає і автоматично банить hate speech в 97% випадків, а решта 3% результат скарг користувачів», говорить він.

У 2017 році, коли Facebook почав звітувати про стан справ з мовою ворожнечі на платформі, її прояви без втручання користувачів вдавалося виявити лише в 23,6% випадків. Тепер, завдяки ШІ, цей показник істотно зріс.

Звичайно, залишається ще 3% скарг від користувачів, в ролі яких цілком можуть виступати і боти. У цьому плані Україна знаходиться в невигідному становищі. За даними Facebook за 2017-2020 роки, вона входить одразу в два топ-5 країн, найбільш схильних до атак ботів, як зі своєї території, так і ззовні. Проте випадки скарг також розглядає ШІ.

Про розвиток штучного інтелекту (ШІ) сьогодні багато говорять. Зарубіжні футурологи вважають, що саме ця технологія найбільше вплине на наше життя в найближчі два-три десятиліття. То чому ж вона підводить сучасних користувачів?

За словами Рожкова, на службі Facebook стоїть багато систем ШІ, і кожна призначена для вирішення конкретного завдання. Це цілком природно, адже сучасний штучний інтелект не може досягати успіхів в кількох галузях відразу. Система, що геніально грає в шахи, не зможе шукати ракові пухлини на знімках.

Згідно з останнім звітом про контроль за дотриманням норм спільноти, штучний інтелект визначає і автоматично банить hate speech в 97% випадків, а решта 3% — результат скарг користувачів

От і в Facebook один з ШІ займається перекладом постів, в тому числі і з української, а потім передає їх іншому ШІ, який аналізує вміст через призму «Норм спільноти» і приймає рішення, пропускати їх чи блокувати.

«Відповідно, ті нюанси, які можуть бути присутніми в нашій культурі, машина Facebook не розгледить», — зазначає український SMM-фахівець.

Здавалося б, от ми і дожили до того, що машина вирішує, що можна говорити (або в даному випадку писати), а що — ні. Це вже не «великий брат», а справжнісінький Скайнет. Але не поспішайте бігти за Джоном Коннором, Facebook поки не відмовився від послуг людей. Та їм помилки притаманні не менше, ніж ШІ. Тим паче, якщо доводиться працювати в поточних умовах.

Зрозуміти не можна блокувати

Відповідно до минулорічної доповіді Школи бізнесу Штерна при Нью-Йоркському університеті, модерацією контенту, що виробляє мільярдна аудиторія Facebook і Instagram, займається 15 тис. людей. При цьому більшість з них не є штатними співробітниками компанії, а працює на аутсорсі.

Як зізнавався сам засновник соцмережі Марк Цукерберг три роки тому, «модератори приймають хибне рішення раз на десять випадків». Про точну кількість постів, з якими їм доводиться мати справу, не йшлося, але автори доповіді пропонують цифру в 3 млн протягом дня. При частці помилок в 10% їх щодня стається по 300 тис. А це ще дуже скромна оцінка для мережі майже з трьома мільярдами користувачів.

Марк Цукерберг, засновник Facebook / Getty Images

Відштовхуючись від кількості в 3 млн постів, можна провести і інші розрахунки. Це число означає, що на кожного з 15 тис. модераторів щодня припадає по 200 постів. Тобто за восьмигодинну зміну один працівник переглядає близько 25 публікацій щогодини. На перегляд і прийняття рішення по кожній з них у нього є 144 секунди.

Модератори приймають хибне рішення раз на десять випадків

Це відверто короткий проміжок часу. Тим паче, що внутрішні правила Facebook, на які спираються модератори, не назвеш легким чтивом. У 2018-му видання The New York Times отримало зразок такого зводу правил від одного зі співробітників компанії. Матеріали налічували близько 1,4 тис. сторінок, що містять презентації PowerPoint і таблиці Excel.

Як би не змінилася ситуація за минулі три роки, дещо залишилося, як і раніше: Facebook все ще гігантська мережа, що генерує астрономічну кількість контенту. А це підштовхує до по-людськи зрозумілого висновку.

«Facebook легше забанити один конкретний пост, ніж розбиратися в деталях, що саме там малося на увазі», — резюмує Рожков.

Прийом проти лома

Від помилок, як своїх, так і чужих, ніхто не застрахований. Але це ще не означає, що абсолютно нічого не можна зробити, якщо не хочеться зіткнутися з блокуванням акаунта або публікацій. Коли не зрозуміло, як щось працює, найочевиднішим рішенням буде почитати інструкцію, не чекаючи, коли це щось зламається. В даному випадку йдеться про ті самі «Норми спільноти». Це не найлегше чтиво, написане формальною мовою компанії, що регулярно стикається з критикою. Тож, можливо, всіх питань воно і не зніме, але допоможе краще орієнтуватися у вимогах соціальної мережі. За словами Рожкова, це може стати в нагоді при подачі апеляції Facebook, якщо блокування облікового акаунта або поста все ж трапиться.

Крім того, слід уважніше ставитися до змісту своїх публікацій. Так, машина може і не зрозуміти, що ви мали на увазі під тим чи іншим висловлюванням, а людині може не вистачити часу, аби вникнути в суть вашої думки. Але вам як користувачу це під силу. «Важливо розуміти, що в цілому позиція Facebook збігається із загальносвітовим трендом до дотримання толерантності», — відзначає Рожков.

За що блокує Facebook

Тому, публікуючи пост, варто задуматися: чи не суперечить він якимось чином цій тенденції, чи не може кого-небудь зачепити за живе. І якщо така можливість існує, то подумати про те, як його краще піднести, намагаючись викладати думки максимально чітко.

Такий підхід може здатися занадто трудомістким. Але, з іншого боку, люди, які посеред вулиці або площі голосно і агресивно висловлюють свою думку (якою б вона не була), зазвичай отримують на свою адресу косі погляди оточуючих. У певному сенсі Facebook — така сама площа.

Kюди, які посеред вулиці або площі голосно і агресивно висловлюють свою думку, зазвичай отримують на свою адресу косі погляди оточуючих. У певному сенсі Facebook — така сама площа

Нарешті, варто пам'ятати про те, що не всі проблеми, які ви розкриваєте в публікаціях, однакові. «Якщо хочеться писати на теми, навколо яких точиться громадська дискусія, то до них увага і людей, і алгоритмів буде більшою, ніж до lifestyle-блогу», — говорить Рожков.

У сучасному світі деякі технології розвиваються швидше, ніж люди встигають скласти вичерпний перелік правил роботи з ними. Facebook — наочне тому підтвердження. Робота соцмережі з користувачами, їхніми даними і контентом, далека від ідеалу, м'яко кажучи. І в деяких моментах, коли важка машина, що поглинає дедалі більшу кількість людей, буксує, покладатися залишається тільки на власну розсудливість і обережність.

Розкритикував фразу Путіна про «один народ». Facebook видалив пост посла України в Чехії
Google, Twitter і Facebook. Трамп подав у суд на технологічних гігантів, скаржачись на «цензуру»
Великобританія та ЄС розслідуватимуть можливе порушення мережею Facebook правил конкуренції