Карикатура з серйозним підтекстом
Коли сатиричний карикатурист бере на приціл технологію розпізнавання облич у супермаркетах, варто зупинитися й запитати, на що насправді вказує цей жарт. Стрип First Dog on the Moon від The Guardian, опублікований під заголовком «Хвиля крадіжок у магазинах?! Встановлення технології розпізнавання облич усюди це вирішить», висміює ідею, що австралійські рітейл-гіганти Coles і Woolworths можуть вирішити проблему крадіжок, просто заповнивши магазини камерами та біометричним програмним забезпеченням. Жарт влучає в ціль, бо ґрунтується на чомусь реальному: алгоритми розпізнавання облич мають задокументовані упередження, а компанії, які їх впроваджують, фактично просять громадськість довіряти, що вони не зловживатимуть технологією, яка, як відомо, припускається помилок.
Саме в цьому полягає напруга в основі цієї історії. Рітейлери подають розпізнавання облич як просте оновлення системи безпеки, спосіб виявити відомих правопорушників до того, як вони дійдуть до каси. Але технологія не працює у вакуумі. Вона сканує, зберігає та зіставляє обличчя кожного покупця, який заходить у двері, незалежно від того, чи підозрювали його колись у чомусь, чи ні.
Чому упередженість розпізнавання облич має значення в роздрібній торгівлі
Системи розпізнавання облич мають добре задокументовану репутацію нерівномірної роботи серед різних демографічних груп. Дослідження та незалежні тестування протягом багатьох років неодноразово виявляли, що рівень помилок розподілений нерівномірно, тобто одні покупці статистично частіше піддаються хибній ідентифікації, ніж інші. У роздрібному середовищі хибний збіг — це не просто незручне сповіщення. Це може означати, що покупця зупинять, почнуть розпитувати або попросять залишити магазин, хоча він не зробив нічого поганого.
Обіцянка супермаркетів відповідально використовувати цю технологію не змінює базової проблеми точності. Корпоративна запорука уникати зловживань — це політичне зобов'язання, а не технічне виправлення. Алгоритм однаково припускається тих самих статистичних помилок, незалежно від того, наскільки ретельно компанія заявляє, що контролюватиме його використання. Саме ця прогалина є об'єктом глузування в карикатурі: невідповідність між недосконалим інструментом і впевненою мовою, якою його продають як рішення.
Дані десь зберігаються, і це теж ризик
Окрім хибної ідентифікації, є другий рівень занепокоєння, якому часто приділяють менше уваги: куди потрапляють біометричні дані після збору. Системи розпізнавання облич потребують зберігання шаблонів облич, зображень або журналів збігів, і будь-яка база даних такого типу стає мішенню. Рітейлери традиційно не є організаціями з безпекою найвищого рівня, як банки чи телекомунікаційні компанії, і загальна картина вразливості бізнесу варта уваги. Журналістські розслідування про британських виробників, які постраждали від кібератак, виявили, що значна частка промислових підприємств зазнала зламів за останній рік, при цьому багато з них залишалися непідготовленими, що нагадує: сектори поза традиційними технологіями часто недофінансовані щодо вимог безпеки для даних, які вони тепер зберігають. Мережа супермаркетів, яка зберігає біометричні шаблони мільйонів покупців, бере на себе подібний рівень ризику, незалежно від того, чи має вона відповідну інфраструктуру.
Також варто звернути увагу на закономірність у тому, як технології верифікації впроваджуються з упевненими обіцянками, які не завжди витримують перевірку. Регулятори порушували подібні питання й в інших випадках, як-от коли Ofcom розпочав розслідування систем вікової верифікації TikTok після занепокоєнь, що перевірки не працюють так, як заявлено. Розпізнавання облич у роздрібній торгівлі йде за схожим сценарієм: технологію представляють як рішення реальної проблеми, супроводжуючи запевненнями про відповідальне використання, тоді як питання точності та нагляду залишаються значною мірою невирішеними.
Що це означає для вас
Якщо ви робите покупки в магазині, який використовує розпізнавання облич, ваше обличчя сканується та потенційно зіставляється з базою даних щоразу, коли ви заходите, незалежно від того, чи робили ви щось погане. Вам навряд чи повідомлять, яка саме система використовується, як довго зберігаються ваші дані або які існують механізми оскарження, якщо вас помилково позначено. Корпоративні обіцянки про відповідальне використання не є обов'язковими гарантіями, і вони не вирішують проблем точності алгоритмів, закладених у саму технологію.
Це не означає, що кожне використання розпізнавання облич є зловмисним або що кожен покупець перебуває під значним ризиком. Але це означає, що тягар доказування має лежати на компаніях, які впроваджують цю технологію, а не на покупцях, які проходять повз їхні камери. Довіра до будь-якої системи, яка обробляє чутливі персональні дані, біометричні чи інші, має підкріплюватися перевіреними практиками, а не заспокійливими заявами. Це той самий стандарт, який варто застосовувати до будь-якого сервісу, що працює з вашими даними, зокрема до незалежно перевірених практик безпеки, а не до неперевірених заяв про належну поведінку.
Поради для покупців
Звертайте увагу на таблички біля входу в магазин, які повідомляють про використання відеоспостереження або технології розпізнавання облич, і не соромтеся питати персонал або корпоративну службу підтримки, які дані збираються і як довго вони зберігаються. Якщо ви вважаєте, що вас хибно ідентифікували, вимагайте формального перегляду, а не погоджуйтеся з рішенням на місці. І ширше — пам'ятайте, що обіцянка компанії відповідально використовувати технологію розпізнавання облич не є доказом того, що система працює чесно. Оскільки ця технологія поширюється на дедалі більше повсякденних просторів — від супермаркетів до громадського транспорту, — питання, порушені сатиричною карикатурою, варто сприймати так само серйозно, як і будь-які формальні політичні дебати.
