Розпізнавання обличчя
Getty Images

У січні 2020 року американця Роберта Вільямса заарештували та звинуватили в тому, що він нібито вкрав кілька годинників на суму майже у $4 тис. Його як злочинця ідентифікувала система розпізнавання облич компанії Rank One Computing. Хоча висновок цієї системи не міг бути єдиним доказом для прийняття рішення про арешт, Вільямса затримали і він провів за ґратами більш як 30 годин. Чоловік не підозрював, що саме стало причиною арешту, поки один з офіцерів випадково не проговорився про це.

У листопаді 2020 року схожа історія сталась з мешканцем Москви Антоном Леушиним. Його звинуватили в крадіжці елітного алкоголю з магазину «Ашан», бо система розпізнавання облич, яку використовували в супермаркеті, ідентифікувала його лице. Дві години Антону не пояснювали причину затримання, потім ще шість годин у поліцейському відділку на чоловіка чинили психологічний тиск. Причину затримання пояснили лише після приїзду адвоката. В результаті помилка системи розпізнавання обійшлась Антонові у 8 годин життя та 15 тис. рублів оплати роботи адвоката.

Подібних випадків останнім часом стає все більше. Тому уряди та техногіганти один за одним оголошують про припинення застосування технології розпізнавань облич, на яку ще кілька років тому вони покладали великі надії.

На початку листопада Facebook повідомив, що відмовляється від системи розпізнавання облич у своїх продуктах. Це рішення можна вважати революційним

Так, на початку листопада Facebook повідомив, що відмовляється від системи розпізнавання облич у своїх продуктах. Це рішення можна вважати революційним. У базі даних Facebook містилися фотографії та їхні цифрові аналоги понад мільярда користувачів платформи. І саме цю базу використовували розробники сторонніх систем розпізнавання.

У Facebook аргументували своє рішення побоюваннями користувачів та регуляторів. Хоча не можна виключати, що цей крок став проявом проактивної позиції компанії, яка знаходиться в епіцентрі чи не найбільшого скандалу за всю історію її існування.

Обіди за скан-копію обличчя

Новини, пов’язані з роботою технологій розпізнавання облич, з’являються чи не щотижня. З одного боку, у державних органів та бізнесу з року в рік зростає цікавість до подібних інструментів через їхню зручність у різних сферах життя. Не лише з метою пошуку та ідентифікації злочинців.

До прикладу, в середині жовтня стало відомо, що у деяких британських школах почнуть використовувати технології розпізнавання облич під час видачі обідів — це повинно спростити розрахунки за їжу і пришвидшити обслуговування учнів. 97% батьків учнів шкіл, які запровадили експеримент, погодились на впровадження нової технології. Натомість про її ризики відразу стали попереджати правозахисні організації.

Робота системи розпізнавання облич у Пекіні

Так, група із захисту цифрових прав дітей Defend Digital Me вимагала припинити цю практику і перерахувала, які закони Великобританії при цьому порушуються.

Вже через тиждень від використання нової технології відмовилися, точніше, «тимчасово призупинили» її розгортання, щоб детальніше зрозуміти можливі ризики.

Поспішати повільно: ЄС та США масово відмовляються від технологій розпізнавання

Європейський парламент на початку жовтня прийняв резолюцію, яка закликає до повної заборони біометричних систем масового стеження через їх недосконалість і велику кількість помилок. На такому рішенні Європарламент зупинився після тривалих обговорень, в яких йшлось про запровадження інструментів регулювання таких технологій. Їх навіть назвали вбивцями анонімності. А у спеціальній заяві глави Європейської ради із захисту даних згадувалось, що подібні інструменти «настільки серйозно втручаються у сферу базових прав та свобод, що ставлять під сумнів саму їх суть».

Заборона технологій розпізнавання корелює з іншими обмеженнями, запровадженими у ЄС, — наприклад, на використання штучного інтелекту у тих сферах, де він може загрожувати суспільству. Серед них, передусім, йдеться про використання алгоритмів у судочинстві та правоохоронній діяльності. Окрім того — для пошуку співробітників, перевірки документів, проведення хірургічних операцій. Загалом небезпечними назвали сфери, в яких алгоритми можуть маніпулювати людьми та їхніми рішеннями.

Протести проти систем розпізнавання облич у Великобританії

Історія заборони використання технологій розпізнавання облич у США є більш тривалою. З одного боку, державні структури використовують технології розпізнавання приватних компаній, і особливо активно — найбільш контраверсійну розробку компанії Clearview AI, яка володіє базою даних з понад 10 млрд фотографій, отриманих з Facebook.

Законність отримання цієї бази даних облич викликає сумніви. Крім того, використання цього інструменту відбувається практично безконтрольно. Лише через два роки активного використання, на фоні критики щодо етичності та законності, система пройшла тестування на федеральному рівні.

З іншого боку, окремі штати один за одним забороняють використання технологій розпізнавання. Наприклад, відомо про заборону цього інструменту у Портленді, Балтиморі, штаті Мен (не лише для комерційних структур, але й для державних), містах Массачусетс та Міннеаполіс, у Сан-Франциско та Окленді, деяких округах штату Вашингтон та багатьох інших.

Європейський парламент на початку жовтня прийняв резолюцію, яка закликає до повної заборони біометричних систем масового стеження через їх недосконалість і велику кількість помилок

Рішенням окремих штатів передувала відмова від розробки таких технологій деякими технологічними гігантами, серед яких IBM, Amazon та Microsoft — здебільшого через те, що подібні розробки поліція активно використовувала під час протестів учасників руху Black lives matter.

На початку року Amnesty International запустила глобальну кампанію із заборони використання систем розпізнавання облич. Стартувала вона із заклику відмовитись від таких інструментів у Нью-Йорку.

Більш за те, організація Electronic Frontier Foundation (EFF), яка займається захистом цифрових прав, ще на початку цього року виступила проти повної заборони технології розпізнавання. Втім, уже в жовтні риторика EFF змінилась. І у дописах, присвячених цьому інструменту, йдеться про те, що «використання державою технології розпізнавання є великою загрозою нашим основним свободам. Саме тому державні структури повинні покласти кінець цій практиці».

Росія та Китай: сховатися не вийде

Китайські технології розпізнавання давно та успішно використовують у камерах спостереження, причому щороку ці технології проникають все глибше у всі сфери життя країни. До прикладу, ще у 2019 році купити мобільний телефон в Китаї можна було лише після сканування обличчя, а з 2021 року в країні активно тестують технології розпізнавання емоцій.

Росія йде шляхом Китаю з невеликим запізненням. Поширення COVID-19 та необхідність стеження за дотриманням карантинних вимог призвели до масового поширення камер по регіонах країни.

Пандемія у цілому сприяла поширенню технологій цифрового стеження, проте у країнах з сильним громадянським суспільством спроби перетворити стеження за носінням масок та дотриманням дистанції в інструмент масового спостереження зустрічали супротив, чого не відбулося в Росії.

Оплата обличчям у московському метро

Натомість там розпізнавання облич стало каральним інструментом і платформою пошуку активістів. Російська організація «Роскомсвобода», що займається захистом цифрових прав росіян, розповідала історії людей, яких незаконно та необґрунтовано затримали на основі даних камер спостереження. Особливо зручними ці камери виявилися після масштабних акцій протесту в кінці січня 2021 року.

Влітку у Москві запустили можливість «оплати обличчям» у метро, а вже в жовтні стали відомі плани мерії Москви передавати фотографії користувачів російського порталу державних послуг в поліційну систему розпізнавання облич. Очевидно, це дозволить у подальшому спростити ідентифікацію учасників протестів.

Український шлях

Попри використання в Україні камер спостереження, наразі не зрозуміло, чи ці камери здатні ідентифікувати людину. Ще на початку року стало відомо, що в планах глобальної експансії компанії Clearview AI на нові ринки фігурує і Україна. А плани МВС в рамках проєкту Всесвітньої організації охорони здоров'я запустити відеокамери, які будуть контролювати дотримання маскового режиму і соціальної дистанції, попри запевнення в тому, що вони не ідентифікуватимуть порушників, є тривожним сигналом.

Підсумовуючи, наразі у світі існує два вектори розвитку технологій розпізнавання облич. Це тоталітарний шлях масового спостереження, який супроводжується не менш активними маніпуляціями та зловживаннями, та демократичний, де наразі вивчається, як зробити так, щоб технологія розпізнавання не стала інструментом порушення базових прав людини. Якщо знайти компроміс не вдасться, скоріш за все, у демократичних країнах на цю технологію чекає заборона.

Україні рано чи пізно доведеться вибирати між двома шляхами у застосуванні подібних цифрових інструментів. Цей вибір вплине на дуже багато речей — від особистої безпеки громадян до випадків поліцейського свавілля.

Перегони технологій та нова етика
Під загрозою вимирання. Товари та технології, що зіб’ють з пантелику ваших дітей
До ворожки не ходи. Як футурологи дивляться в майбутнє і кому це потрібно