Карикатура с серьёзным подтекстом

Когда сатирический карикатурист берёт на прицел технологию распознавания лиц в супермаркетах, стоит на мгновение задуматься, на что на самом деле указывает эта шутка. Стрип First Dog on the Moon из The Guardian, опубликованный под заголовком «Волна краж в магазинах?! Установка распознавания лиц повсюду решит эту проблему», высмеивает идею о том, что австралийские ритейл-гиганты Coles и Woolworths могут решить проблему воровства, просто покрыв магазины камерами и биометрическим программным обеспечением. Развязка срабатывает, потому что она основана на чём-то реальном: у алгоритмов распознавания лиц есть задокументированные предвзятости, и компании, внедряющие их, по сути просят общественность довериться тому, что они не будут злоупотреблять технологией, которая, как известно, совершает ошибки.

Именно в этом заключается напряжение, лежащее в основе этой истории. Ритейлеры преподносят распознавание лиц как простое обновление системы безопасности, способ пометить известных нарушителей до того, как они дойдут до кассы. Но технология не работает в вакууме. Она сканирует, сохраняет и сопоставляет лица каждого покупателя, который входит в дверь, независимо от того, подозревали ли его когда-либо в чём-то или нет.

Почему предвзятость распознавания лиц важна в розничной торговле

Системы распознавания лиц имеют давно установленную репутацию неравномерной работы с разными демографическими группами. Исследования и независимые тестирования на протяжении многих лет неоднократно показывали, что уровень ошибок распределяется неравномерно, а это означает, что одни покупатели статистически более вероятно могут быть ошибочно идентифицированы, чем другие. В розничной среде ложное совпадение не просто вызывает неудобное уведомление. Это может означать, что покупателя остановят, начнут расспрашивать или попросят покинуть магазин, хотя он не сделал ничего плохого.

Обещание супермаркетов использовать эту технологию ответственно не меняет лежащей в основе проблемы точности. Корпоративное обязательство избегать злоупотреблений — это политическое заявление, а не техническое решение. Алгоритм по-прежнему совершает те же статистические ошибки, независимо от того, насколько тщательно компания заявляет, что будет контролировать его использование. Именно этот разрыв и высмеивает карикатура: несоответствие между несовершенным инструментом и уверенным языком, используемым, чтобы продать его как решение.

Данные где-то хранятся, и это тоже риск

Помимо ошибочной идентификации, есть второй уровень беспокойства, которому часто уделяется меньше внимания: куда попадают биометрические данные после сбора. Системы распознавания лиц требуют хранения шаблонов лиц, изображений или журналов совпадений, и любая такая база данных становится целью. Ритейлеры традиционно не являются организациями, ориентированными на безопасность в первую очередь, как банки или телекоммуникационные компании, и общая картина уязвимости бизнеса заслуживает внимания. Репортажи о британских производителях, пострадавших от кибератак, показали, что значительная доля промышленных предприятий была взломана за последний год, при этом многие оставались неподготовленными, что напоминает: секторы за пределами традиционных технологий часто недооценены с точки зрения требований безопасности для данных, которыми они теперь владеют. Сеть супермаркетов, хранящая биометрические шаблоны миллионов покупателей, берёт на себя аналогичный уровень риска, независимо от того, есть ли у неё соответствующая инфраструктура.

Есть также закономерность, которую стоит отметить в том, как технологии верификации внедряются с уверенными обещаниями, которые не всегда выдерживают проверку. Регуляторы поднимали аналогичные вопросы и в других местах, например, когда Ofcom начал расследование систем возрастной верификации TikTok после опасений, что проверки не работают так, как заявлено. Распознавание лиц в рознице следует схожему сценарию: технология вводится как решение реальной проблемы, сопровождается заверениями в ответственном использовании, в то время как вопросы точности и надзора остаются в значительной степени нерешёнными.

Что это значит для вас

Если вы делаете покупки в магазине, использующем распознавание лиц, ваше лицо сканируется и потенциально сопоставляется с базой данных каждый раз, когда вы входите, независимо от того, делали ли вы когда-либо что-то неправильно. Вам вряд ли сообщат, какая именно система используется, как долго хранятся ваши данные или какие есть средства защиты, если вас ошибочно пометили. Корпоративные обещания об ответственном использовании не являются обеспеченными гарантиями, и они не решают проблемы точности алгоритмов, встроенных в саму технологию.

Это не означает, что каждое использование распознавания лиц является злонамеренным или что каждый покупатель находится под реальным риском. Но это означает, что бремя доказательства должно лежать на компаниях, внедряющих эту технологию, а не на покупателях, проходящих мимо их камер. Доверие к любой системе, обрабатывающей чувствительные персональные данные, биометрические или иные, должно подкрепляться проверяемыми практиками, а не успокаивающими заявлениями. Это тот же стандарт, который стоит применять к любому сервису, обрабатывающему ваши данные, включая независимо проверенные практики безопасности, а не непроверенные заявления о хорошем поведении.

Выводы для покупателей

Обращайте внимание на указатели у входа в магазин, сообщающие об использовании видеонаблюдения или технологии распознавания лиц, и не стесняйтесь спрашивать персонал или корпоративную службу поддержки, какие данные собираются и как долго они хранятся. Если вы считаете, что вас ошибочно идентифицировали, требуйте официального пересмотра, а не принимайте решение на месте. И в более широком смысле, имейте в виду, что обещание компании использовать технологию распознавания лиц ответственно — это не то же самое, что доказательство того, что система работает справедливо. По мере того как эта технология распространяется на всё больше повседневных пространств, от супермаркетов до общественного транспорта, вопросы, поднятые сатирической карикатурой, стоит воспринимать так же серьёзно, как и любые официальные политические дебаты.