В январе 2020 года американец Роберт Уильямс был арестован и обвинен в том, что он якобы украл несколько часов на сумму почти в $4 тыс. Его как преступника идентифицировала система распознавания лиц компании Rank One Computing. Хотя вывод этой системы не мог быть единственным доказательством для принятия решения об аресте, Вильямса задержали и он провел за решеткой более 30 часов. Мужчина не подозревал, что именно стало причиной ареста, пока один из офицеров случайно не обмолвился об этом.
В ноябре 2020 года похожая история произошла с жителем Москвы Антоном Леушиным. Его обвинили в краже элитного алкоголя из магазина «Ашан», потому что система распознавания лиц, используемая в супермаркете, идентифицировала его лицо. Два часа Антону не объясняли причину задержания, затем еще шесть часов в полицейском участке на мужчину оказывали психологическое давление. Причину задержания объяснили только по приезду адвоката. В результате ошибка системы распознавания обошлась Антону в 8 часов жизни и 15 тысяч рублей оплаты работы адвоката.
Подобных случаев в последнее время становится все больше. Поэтому правительства и техногиганты один за другим объявляют о прекращении применения технологии распознавания лиц, на которую еще несколько лет назад они возлагали большие надежды.
Так, в начале ноября Facebook сообщил, что отказывается от системы распознавания лиц в своих продуктах. Это решение можно считать революционным. В базе данных Facebook хранились фотографии и их цифровые аналоги более миллиарда пользователей платформы. И именно эту базу использовали разработчики сторонних систем распознавания.
В Facebook аргументировали свое решение опасениями пользователей и регуляторов. Хотя нельзя исключать, что этот шаг стал проявлением проактивной позиции компании, которая находится в эпицентре едва ли не самого большого скандала за всю историю ее существования.
Обеды за скан-копию лица
Новости, связанные с работой технологий распознавания лиц, появляются ежедневно. С одной стороны, у государственных органов и бизнеса из года в год растет интерес к подобным инструментам из-за их удобства в разных сферах жизни. Не только для поиска и идентификации преступников.
К примеру, в середине октября стало известно, что в некоторых британских школах начнут использовать технологии распознавания лиц при выдаче обедов — это должно упростить расчеты за еду и ускорить обслуживание учащихся. 97% родителей учеников школ, которые ввели эксперимент, согласились на внедрение новой технологии. Зато о ее рисках сразу стали предупреждать правозащитные организации.
Так, группа защиты цифровых прав детей Defend Digital Me требовала прекратить эту практику и перечислила, какие законы Великобритании при этом нарушаются.
Уже через неделю от использования новой технологии отказались, точнее, «временно приостановили» ее применение, чтобы подробнее понять возможные риски.
Торопиться медленно: ЕС и США массово отказываются от технологий распознавания
Европейский парламент в начале октября принял резолюцию, призывающую к полному запрету биометрических систем массовой слежки из-за их несовершенства и большого количества ошибок. На таком решении Европарламент остановился после длительных обсуждений, в которых говорилось о внедрении инструментов регулирования таких технологий. Их даже назвали убийцами анонимности. А в специальном заявлении главы Европейского совета по защите данных упоминалось, что подобные инструменты «настолько серьезно вмешиваются в сферу базовых прав и свобод, что подвергают сомнению саму их суть».
Запрет технологий распознавания коррелирует с другими ограничениями, введенными в ЕС, — например, на использование искусственного интеллекта в тех сферах, где он может угрожать обществу. Среди них, прежде всего, речь идет об использовании алгоритмов судопроизводства и правоохранительной деятельности. Кроме того — для поиска сотрудников, проверки документов, проведения хирургических операций. В общем, опасными назвали сферы, в которых алгоритмы могут манипулировать людьми и их решениями.
История запрета использования технологий распознавания лиц в США более продолжительна. С одной стороны, государственные структуры используют технологии распознавания частных компаний, и особенно активно — наиболее контроверсионную разработку компании Clearview AI, владеющей базой данных из более 10 млрд фотографий, полученных из Facebook.
Законность получения этой базы данных лиц вызывает сомнения. Помимо этого, внедрение данного инструмента происходит фактически бесконтрольно. Только после двух лет активного использования, на фоне критики по нравственности и законности, система прошла тестирование на федеральном уровне.
С другой стороны, отдельные штаты один за другим запрещают использование технологий распознавания. Например, известно о запрете этого инструмента в Портленде, Балтиморе, штате Мэн (не только для коммерческих структур, но и для государственных), городах Массачусетс и Миннеаполис, в Сан-Франциско и Окленде, некоторых округах штата Вашингтон и многих других.
Решениям отдельных штатов предшествовал отказ от разработки таких технологий некоторыми технологическими гигантами, среди которых IBM, Amazon и Microsoft — в основном из-за того, что подобные разработки полиция активно использовала во время протестов участников движения Black lives matter.
В начале года Amnesty International запустила глобальную кампанию по запрету использования систем распознавания лиц. Стартовала она с призыва отказаться от таких инструментов в Нью-Йорке.
Более того, организация Electronic Frontier Foundation (EFF), занимающаяся защитой цифровых прав, еще в начале этого года выступила против полного запрета технологии распознавания. Впрочем, уже в октябре риторика EFF поменялась. И в сообщениях, посвященных этому инструменту, говорится, что «использование государством технологии распознавания является большой угрозой нашим основным свободам. Именно поэтому государственные структуры должны положить конец этой практике».
Россия и Китай: скрыться не получится
Китайские технологии распознавания давно и успешно используются в камерах наблюдения, причем ежегодно эти технологии проникают все глубже во все сферы жизни страны. К примеру, еще в 2019 году купить мобильный телефон в Китае можно было только после сканирования лица, а с 2021 года в стране активно тестируют технологии распознавания эмоций.
Россия идет по пути Китая с небольшим опозданием. Распространение COVID-19 и необходимость слежения за соблюдением карантинных требований привели к массовому распространению камер по регионам страны.
Пандемия в целом способствовала распространению технологий цифровой слежки, однако в странах с сильным гражданским обществом попытки превратить слежку за ношением масок и соблюдением дистанции в инструмент массового наблюдения встречали сопротивление, чего не произошло в России.
Там распознавание лиц стало карательным инструментом и платформой поиска активистов. Российская организация «Роскомсвобода», занимающаяся защитой цифровых прав россиян, рассказывала истории людей, незаконно и необоснованно задержанных на основе данных камер наблюдения. Особо удобными эти камеры оказались после масштабных акций протеста в конце января 2021 года.
Летом в Москве запустили возможность оплаты лицом в метро, а уже в октябре стали известны планы мэрии Москвы передавать фотографии пользователей российского портала государственных услуг в полицейскую систему распознавания лиц. Очевидно, это позволит в дальнейшем упростить идентификацию участников протестов.
Украинский путь
Несмотря на использование в Украине камер наблюдения, пока не ясно, способны ли эти камеры идентифицировать человека. Еще в начале года стало известно, что в планах глобальной экспансии компании Clearview AI новых рынков фигурирует и Украина. А планы МВД в рамках проекта Всемирной организации здравоохранения запустить видеокамеры, которые будут контролировать соблюдение масочного режима и социальной дистанции, несмотря на заверения в том, что они не будут идентифицировать нарушителей, являются тревожным сигналом.
Подводя итог, сейчас в мире существует два вектора развития технологий распознавания лиц. Это тоталитарный путь массового наблюдения, сопровождающийся не менее активными манипуляциями и злоупотреблениями, и демократический, где изучается, как сделать так, чтобы технология распознавания не стала инструментом нарушения базовых прав человека. Если найти компромисс не удастся, скорее всего, в демократических странах эту технологию ждет запрет.
Украине рано или поздно придется выбирать между двумя способами в применении подобных цифровых инструментов. Этот выбор повлияет на очень многое — от личной безопасности граждан до случаев полицейского произвола.
