Карикатура със сериозна цел
Когато сатиричен карикатурист се прицелва в технологията за разпознаване на лица в супермаркетите, си струва да спрем и да попитаме към какво всъщност е насочена шегата. Поредицата First Dog on the Moon на The Guardian, публикувана под заглавието „Вълна от кражби от магазини?! Поставянето на технология за разпознаване на лица навсякъде ще реши проблема“, се подиграва на идеята, че австралийските търговски гиганти Coles и Woolworths могат да решат кражбите, просто покривайки магазините с камери и биометричен софтуер. Поантата удря точно, защото е базирана на нещо реално: алгоритмите за разпознаване на лица имат документирани пристрастия, а компаниите, които ги внедряват, всъщност искат от публиката да се довери, че няма да злоупотребят с технология, за която е известно, че допуска грешки.
Това е напрежението в сърцето на тази история. Търговците представят разпознаването на лица като обикновено подобрение на сигурността, начин да бъдат отбелязани известни нарушители, преди да стигнат до касата. Но технологията не работи във вакуум. Тя сканира, съхранява и съпоставя лицата на всеки клиент, който влезе през вратата, независимо дали някога е бил заподозрян в нещо или не.
Защо пристрастието в разпознаването на лица има значение в търговията на дребно
Системите за разпознаване на лица имат добре установена репутация на неравномерно представяне сред различните демографски групи. Проучвания и независими тестове през годините многократно са установявали, че нивата на грешки не са разпределени по равно, което означава, че някои клиенти са статистически по-склонни да бъдат погрешно идентифицирани от други. В търговска среда фалшиво съвпадение не води само до неудобно известие. То може да означава клиент да бъде спрян, разпитан или помолен да напусне магазин, в който не е направил нищо лошо.
Обещанието на супермаркетите, че ще използват тази технология отговорно, не променя основния проблем с точността. Корпоративният ангажимент да се избегне злоупотреба е политическо обещание, а не техническо решение. Алгоритъмът все така допуска същите статистически грешки, независимо колко внимателно компанията заявява, че ще управлява употребата му. Точно тази празнина осмива карикатурата: несъответствието между несъвършен инструмент и уверения език, използван да го продаде като решение.
Данните се съхраняват някъде, а това също е риск
Освен погрешната идентификация, има и втори пласт на притеснение, който често получава по-малко внимание: къде отиват биометричните данни, след като бъдат събрани. Системите за разпознаване на лица изискват съхраняването на лицеви шаблони, изображения или дневници на съвпадения, а всяка подобна база данни се превръща в мишена. Търговците на дребно традиционно не са организации с приоритет на сигурността, както банките или телекомите, а по-широкият модел на уязвимост на бизнеса си струва да се има предвид. Репортажи за британски производители, засегнати от кибератаки, установиха, че голям дял от индустриалните фирми са били пробити през изминалата година, докато много от тях остават неподготвени — напомняне, че секторите извън традиционните технологии често са недофинансирани за изискванията за сигурност на данните, които вече притежават. Верига супермаркети, съхраняваща биометрични шаблони на милиони клиенти, поема подобен вид експозиция, независимо дали има инфраструктурата, за да ѝ отговори.
Има и модел, който си струва да се отбележи, в начина, по който технологията за верификация се въвежда с уверени обещания, които не винаги издържат под проверка. Регулаторите са повдигали подобни въпроси и другаде, например когато Ofcom отвори разследване за системите за проверка на възрастта на TikTok след опасения, че проверките не работят, както се рекламират. Разпознаването на лица в търговията на дребно следва подобен сценарий: технология се въвежда като решение на реален проблем, придружена от уверения за отговорна употреба, докато въпросите за точността и надзора остават до голяма степен нерешени.
Какво означава това за вас
Ако пазарувате в магазин, който използва разпознаване на лица, лицето ви се сканира и потенциално се съпоставя с база данни всеки път, когато влезете, независимо дали някога сте направили нещо лошо. Едва ли ще ви кажат коя точно система се използва, колко дълго се съхраняват данните ви или какви възможности за обжалване съществуват, ако бъдете погрешно маркирани. Корпоративните обещания за отговорна употреба не са правоприложими гаранции и не адресират проблемите с алгоритмичната точност, вградени в самата технология.
Това не означава, че всяка употреба на разпознаване на лица е злонамерена или че всеки клиент е в реален риск. Но означава, че тежестта на доказване трябва да е върху компаниите, които внедряват тази технология, а не върху клиентите, които минават покрай камерите им. Доверието във всяка система, която обработва чувствителни лични данни, биометрични или други, трябва да бъде подкрепено от проверими практики, а не от успокояващи изявления. Това е същият стандарт, който си струва да се прилага към всяка услуга, обработваща данните ви, включително независимо одитирани практики за сигурност, вместо непроверени твърдения за добро поведение.
Изводи за клиентите
Обърнете внимание на табелите на входовете на магазините, отбелязващи използването на наблюдение или технология за разпознаване на лица, и не се колебайте да попитате персонала или корпоративното обслужване на клиенти какви данни се събират и колко дълго се съхраняват. Ако смятате, че сте били погрешно идентифицирани, поискайте официален преглед, вместо да приемате решение на място. И по-общо, имайте предвид, че обещанието на компанията да използва технологията за разпознаване на лица отговорно не е същото като доказателство, че системата работи справедливо. Тъй като тази технология се разпространява в повече ежедневни пространства, от супермаркети до обществения транспорт, въпросите, повдигнати от сатирична карикатура, си струва да се приемат също толкова сериозно, колкото всеки формален политически дебат.
