Компанія Twitter заплатила $3,5 тис. Богдану Кулиничу, українцю, аспіранту швейцарського університету EFPL, за виявлений баг у роботі соцмережі.
Він виявив, що алгоритм обрізки зображень Twitter віддає перевагу молодим людям, струнким фігурам та світлішій шкірі.
Про це повідомляє The Guardian.
Цей висновок знаменує собою успішне завершення першої в історії «нагороди за алгоритмічні помилки» у Twitter.
Кулинич продемонстрував упередженість в алгоритмі, який під час превʼю фокусується на найбільш «цікавих» частинах зображень.
Як Кулинич довів упередженість
Спочатку він штучно згенерував зображення людей із різними характеристиками, а потім пропустив їх через алгоритм обрізки Twitter, щоб побачити, на чому фокусується програма.
Він також «розмножив» зображення людей, однак у них були різний тон шкіри, статура та вік.
І таким чином показав, що алгоритм фокусується на більш молодих, струнких і світлошкірих людях.
Що відомо про цей баг у Twitter
Twitter давно використовує автоматичну обрізку зображень, щоб вони не займали занадто багато місця в основний стрічці, і щоб в одному твіті можна було показувати кілька зображень.
Ще у 2020 році соцмережу розкритикували через цей алгоритм обрізки зображень після того, як користувачі помітили, що він регулярно фокусується на білих людях та обрізає зображення темношкірих людей, і навіть на білих собаках, обрізаючи чорних.
Тоді компанія спочатку вибачилася: «Наша команда провела тест на упередженість і не знайшла доказів расової або гендерної упередженості. Але з цих прикладів ясно, що нам потрібно провести більш глибокий аналіз».
Однак у більш ретельному дослідженні власні дослідники Twitter виявили дуже невелику упередженість на користь білих і жіночих облич.
Цей інцидент підштовхнув компанію запустити програму, в рамках якої дослідникам заплатили б $3,5 тис. за виявлений баг в алгоритмі обрізки зображень.
