Від самого початку свого існування, кінця 90-х та ранніх 2000-х, пошукові машини і соціальні сервіси намагались дотримуватися політики нейтральності. Однакові для всіх результати пошуку чи політика модерації, неупереджені алгоритми штучного інтелекту — саме в цьому утопічному ідеалі техногіганти до 24 лютого цього року бачили запоруку своєї незалежності.
Втім, українська війна показала, що у глобальному інформаційному світі нейтралітет апріорі неможливий. Адже однією і тією ж соцмережею користуються обидві сторони сутички, громадяни держав, які воюють між собою.
Тому корпораціям довелося визначитись із стороною конфлікту, яку вони підтримують. Агресор у цій війні очевидний. Жертва теж. Тож більшість техногігантів майже відразу вибрали сторону України, хоча їм і довелося за це заплатити: Facebook, Instagram, Twitter і Google News вже заблоковані в росії. YouTube може стати наступним.
Натомість китайський TikTok погодився на введення цензури користувацького контенту, щоби залишитися на російському ринку.
А LinkedIn та Reddit все ще намагаються залишитися осторонь битви добра зі злом. Втім, відмова визначитися, на чиєму вони боці, — це лише затягування з рішенням, яке може дорого обійтися в майбутньому.
Насправді війна стала лише тригером, який дав зрозуміти інтернет-платформам, що їм доведеться переосмислити свою роль у цьому світі. Адже те, що утопічні ідеали «єдиного для всіх інтернету» давно не існують в реальності, всі добре розуміли ще до війни. Meta (Facebook) та й Google вже довго намагалися балансувати між ідеєю нейтральності й бажанням заробляти на рекламі. Наприклад, Google не приховував, що результати його пошуку залежать від персоналізованих факторів, тобто є різними для різних людей.
Тому введені сьогодні зміни до правил роботи з контентом визначатимуть майбутнє сервісів, дозволять їм більш адекватно відповідати на нові кризові ситуації. Натомість платформи, які продовжили політику нейтральності, просто відклали на майбутнє складні рішення.
Нейтральність як основний наратив соціальних платформ
Facebook позиціонував себе як відповідальний сервіс, який контролює дезінформацію та загрози демократії. Правда, про це у Meta заговорили вимушено, лише після розслідування Конгресу щодо впливу російських тролів на вибори 2016 року й після викриття діяльності Cambribde Analytica.
Тоді компанія створила документ під назвою «Стандарти спільноти», котрі прагнула застосовувати об’єктивно, без політичної прихильності, вирішуючи, які пости та облікові записи дозволити, а які видаляти.
Проте політика такого нейтралітету призвела до хибної еквівалентності між тими, хто поширює корисний контент і тими, хто бреше та маніпулює, якщо й перші, й другі не порушують при цьому ті самі «правила спільноти».
Окрім того, Meta обіцяла користувачам забезпечити нетоксичне середовище для спілкування. Це означало, що на платформі були заборонені образи, мова ненависті, образливий контент та контент, який може засмутити. Але, відверто кажучи, у неї це не дуже добре виходило.
Втім, у перші же дні війни стала зрозумілою утопічність цих ідей. Це примусило Facebook, як і інші сервіси, обрати для себе сторону конфлікту. Окрім того, потужна хвиля пропаганди з боку агресора потребувала швидких складних рішень. Простий приклад: чи дотримуватися соцмережам вимог ухваленого у перші дні війни російського закону про фейки щодо діяльності російської армії?
Соціальний фронт
Вже 24 лютого соцмережам довелося оперативно шукати відповідь на декілька складних питань:
— Чи дозволяти публікацію воєнного контенту, у тому числі зображення руйнувань та жертв війни?
— Які висловлювання з боку жертв війни допускаються в бік агресора, а яким не місце на платформі?
— Чи допускати контент, що розміщують пропагандисти та ініціатори війни?
— Потрібна повна заборона подібного контенту чи досить повідомлення для аудиторії пропагандистських дописів про те, що вони бачать маніпулятивні публікації?
— Чи дозволяти рекламувати й монетизувати воєнний контент? І якщо так, то хто може монетизувати та рекламувати такий контент — обидві сторони чи лише одна з них?
Відповіді на ці питання потребували кардинального оновлення правил щодо контенту соціальних платформ та інструкцій для модераторів, які аналізують контент і приймають рішення про його блокування чи допустимість.
Як соціальні медіа змінювались в контексті війни
У соціальних платформ з початком війни з’явилося два варіанти дій. Перший та найпростіший — слідувати старим правилам щодо мови ненависті та контенту з «граничним» змістом.
Ці правила, до прикладу, передбачали блокування всіх згадок про полк «Азов», заборону будь-яких закликів до насильства, та інших моментів, які стали звичними в соціальних мережах після 24 лютого. Також вони автоматично блокували фотографії із зображеннями мертвих тіл чи вбитих людей та накладали санкції на користувачів, які це поширювали.
Іншою проблемою стало поширення пропаганди з боку російських державних медіа. По суті, соціальні сервіси — Meta (Facebook), Instagram, Twitter та навіть такі не зовсім соціальні сервіси, як Reddit та LinkedIn — опинились під перехресним вогнем контенту, котрий, з одного боку, суперечить сам собі, з іншого — частково порушує правила сервісу.
Компанії могли вдатися до універсальної поведінки — заборонити весь воєнний контент. Такий вибір був би простим і складним водночас. З одного боку, це спрощувало процес модерування, хоча й вимагало величезних зусиль з боку модераторів та, можливо, часткового переналаштування алгоритмів модерації. Модераторам у цьому разі не треба було б приймати рішення, їм довелося лише б видаляти все, що так чи інакше стосується війни, якщо це хоч трохи порушує «мирні» правила.
Інший вибір — змінити правила на тривалий час чи хоча б на час воєнного протистояння. Прийняти рішення щодо блокування пропагандистських дописів агресора з одночасним послабленням правил щодо публікацій для сторони, яка захищається. Власне, саме цей шлях вибрали більшість соціальних сервісів. Як ми вже казали, за це вони заплатили відмовою від російського ринку.
Радикали з Facebook
Компанія Цукерберга стала однією з найрадикальніших та найшвидших у прийнятті рішень стосовно цієї війни.
Через декілька днів після початку вторгнення Meta видалила багато фейкових акаунтів і груп у Facebook та Instagram, націлених на дискредитацію України. А вже на початку березня компанія посилила санкції проти державних російських пропагандистських медіа — доступ до них обмежили спочатку в Європі, а згодом й у світі. Йдеться про сторінки RT та Sputnik.
Це рішення, як і наступне — змінити політику стосовно мови ненависті та побажання смерті російським військовим в дописах на Facebook/Instagram — стало безпрецедентним в історії соціальних мереж.
Необхідність подібних змін довело хоча б автоматичне блокування фотографій з Бучі на початку квітня, яке здійснювалось алгоритмами, що розпізнавали зображення. Вони були налаштовані так, що автоматично блокували поширення фото із зображеннями мертвих людей.
Щоправда, українські журналісти скаржилися на те, що модератори Meta (Facebook) часто не дотримуються цього правила. Це спричинило появу заклику українських громадських організацій внести в правила Meta відповідні зміни для воєнного контенту.
Google: про пошук та відео
Набагато складніші завдання довелось вирішувати Google. Адже видалення з пошукового індексу російського наративу є або загалом неможливим, або надзвичайно ускладнене в реалізації. Та й вдатися до таких кроків компанія не може, бо відразу отримає звинувачення в цензурі. Водночас залишатись осторонь і спостерігати, як за допомогою їхніх сервісів поширюється пропаганда і відверта брехня — теж не найкращий вихід.
Тож кроки Google були більш виваженими, ніж у Facebook, але менш радикальними. Компанія обмежила відображення російських державних медіа в рекомендаціях та призупинила монетизацію державних російських ЗМІ на всіх платформах, одночасно заборонивши їм купувати рекламу. Потім YouTube почав повне блокування каналів російських державних медіа, а російським блогерам заборонив заробляти за допомогою сервісу.
До речі, YouTube залишився чи не єдиним західним соціальним сервісом, доступним росіянам. І це попри те, що Роскомнадзор веде з ним запеклу війну у вигляді погроз та штрафів. Блокування офіційного каналу держдуми на YouTube, здавалося, мало б стати остаточною крапкою в інформаційній боротьбі сервісу, проте з того моменту минуло більше двох тижнів, і, попри ідеї депутатів думи щодо повного блокування відеохостингу, він досі доступний росіянам.
Швидше за все, в росії розуміють, що блокування YouTube позбавить російських пропагандистів майданчика, на якому вони можуть поширювати свої ідеї. Але як тільки дії YouTube стануть настільки «зухвалими», що в Роскомнадзорі зрозуміють, що пропагандистського контенту на платформі майже не залишилось, сервіс таки заблокують.
Натомість інша пошукова система — DuckDuckGo, яка позиціонує себе як альтернативу Google, що не цензурує видачу і не відстежує дії користувачів, виявилась більш рішучою. Компанія повідомила про штучне зниження позиції російських дезінформаційних сайтів (це стосувалось насамперед державних медіа). Це викликало негативну реакцію багатьох експертів: вони заявили, що ці дії пошукової платформи — не що інше, як цензура, проти котрої сервіс завжди виступав. І що тепер DuckDuckGo уже не можна довіряти як незалежній пошуковій платформі.
Twitter: боротьба з пропагандистом
У Twitter додали спеціальні помітки до акаунтів державних медіа росії, а пізніше повідомили, що не рекомендуватимуть ці профілі — їх забрали з блоків з рекомендаціями, сторінки «Огляд» та інших розділів сервісу.
Втім, попри вельми помірковану реакцію на російський контент, Twitter заблокували в росії уже 4 березня.
TikTok вирішив не полишати російський ринок
Китайська платформа виявилась не такою однозначною, як Meta. На початку березня компанія призупинила можливість завантаження відео росіянами, щоб зрозуміти, як їй працювати після ухвалення нового закону «про фейки щодо діяльності російської армії». Проте аналіз відео на цій платформі показав, що росіяни успішно розміщували свій контент у березні та квітні.
Також на початку війни TikTok заборонив акаунти російських державних ЗМІ в Європі, частково у відповідь на тиск з боку українських лідерів.
Проте перерва, яку TikTok взяв для вивчення нового закону про фейки, вилилась у покращення рекомендаційного алгоритму. Відомо, що алгоритм TikTok найкраще порівняно з іншими соціальними сервісами уміє пристосовуватись до вподобань та інтересів користувача.
Так, розслідування Tracking Exposed показало, що 95% контенту TikTok є недоступним для користувачів з Росії. Однак у соцмережі офіційно не повідомляли про обмеження якогось контенту для росіян. Уже в квітні з’явилось повідомлення, що додаток TikTok не доступний в російському App Store, але буквально за декілька годин після перших повідомлень він повернувся.
Китайській платформі не звикати виконувати вимоги регуляторів країни, де вона працює, особливо після тривалого протистояння між TikTok з одного боку та США й особисто Дональдом Трампом з іншого. Тож нині офіційних повідомлень про те, що TikTok не працює в росії, немає. Це підтверджує масив контенту або зробленого росіянами, або пов’язаного з російським наративом. Більш за те, за даними The Washington Post, сервіс створив для росії спеціальну версію, в якій весь «чутливий» контент модерується перед публікацією на платформі.
За ці два місяці зустрічались історії й про соціальні сервіси, які вирішили нічого не змінювати у правилах стосовно контенту і продовжили політику заборони мови ненависті. До прикладу, LinkedIn та Reddit банили окремі дописи з мовою ненависті стосовно окупанта.
Невирішені питання
Втім, соцмережі так і не вирішили до кінця проблеми модерації контенту в складних умовах. Це показали, наприклад, скарги заблокованих через старі дописи користувачів, й автоматична реакція на фотографії з Бучі. Як і блокування дописів із хештегом #standwithukraine. Більше того, велика кількість популярних користувачів, які активно використовували цей хештег, потрапили в «тіньовий бан», тобто під неповне блокування — коли юзеру недоступні окремі функції, наприклад, прямий ефір, а також його дописи не показують в стрічках тих, хто на нього підписаний.
Такі санкції стосовно користувачів та хештегів Facebook міг накладати в автоматичному режимі через потік скарг. Причому, швидше за все, існує певна критична межа кількості нарікань на допис чи юзера, після чого тіньовий бан чи блокування вмикається автоматично. А для його скасування потрібне вивчення ситуації та прийняття рішення кимось з команди модераторів, що, очевидно, потребує часу.
З такою ж проблемою зіткнулися користувачі українського Twitter — на початку квітня почалися масові бани українських військових та активістів. Ймовірно, причина цих блокувань теж пов’язана з масовими скаргами ботів.
Масові бани — типова проблема багатьох соціальних сервісів. І вони поки ще не навчилися з цим боротися, хоча було очевидно, що під час війни противники використовуватимуть цю лазівку.
Інформаційна світова
Втім, невирішені проблеми модерування — лише дрібниця. Вперше в історії соціальні платформи не стали гратися в нейтралітет, а визначились із підтримкою України, та, виходячи з цих передумов, приймали певні рішення. І, що важливо, робили це не лише з почуття справедливості, але й для власної користі.
Здебільшого рішення Meta стосовно хейт-спічу можна сприймати не лише як підтримку України, але і як бажання спростити життя собі й модераторам.
Саме тому вікно можливостей, яке зараз відкрилось перед соціальними платформами, є гарною нагодою вирішити деякі з важливих проблем. І це не лише про політику модерування й масові бани, але й про загальні правила роботи з «граничним» контентом та функціонування у складних обставинах.
Очевидно, що правила платформ щодо подібного контенту потребують нових положень, пов’язаних з геополітичними конфліктами, фейками, політичною пропагандою та маніпуляцією. Інакше кажучи — переосмислення дозволеного й забороненого на цих сайтах.
Наразі це аналіз лише перших двох місяців першої світової інформаційної війни та стратегій основних її учасників. Як події розвиватимуться далі, достеменно невідомо. Проте майже однозначно можна сказати, що й на звичайних користувачів, й на соціальні сервіси очікуватимуть нові виклики та проблеми.
