Karykatura z poważnym przesłaniem
Gdy satyryczny rysownik bierze na celownik technologię rozpoznawania twarzy w supermarketach, warto się zatrzymać i zapytać, na co tak naprawdę wskazuje ten żart. Strip „First Dog on the Moon” z The Guardian, opublikowany pod nagłówkiem „Fala kradzieży sklepowych?! Umieszczenie technologii rozpoznawania twarzy wszędzie to rozwiąże”, wyśmiewa pomysł, że australijscy giganci handlu detalicznego Coles i Woolworths mogą rozwiązać problem kradzieży, po prostu zapełniając sklepy kamerami i oprogramowaniem biometrycznym. Puenta trafia w sedno, bo opiera się na czymś realnym: algorytmy rozpoznawania twarzy mają udokumentowane błędy systematyczne, a firmy je wdrażające w zasadzie proszą opinię publiczną, by zaufała, że nie nadużyją technologii, o której wiadomo, że popełnia błędy.
To jest właśnie napięcie u źródła tej historii. Sprzedawcy detaliczni przedstawiają rozpoznawanie twarzy jako prostą modernizację bezpieczeństwa, sposób na wytypowanie znanych przestępców, zanim dotrą do kasy. Ale technologia nie działa w próżni. Skanuje, przechowuje i porównuje twarze każdego klienta wchodzącego do sklepu, niezależnie od tego, czy kiedykolwiek był o cokolwiek podejrzewany, czy nie.
Dlaczego błędy rozpoznawania twarzy mają znaczenie w handlu detalicznym
Systemy rozpoznawania twarzy mają dobrze udokumentowaną historię nierównego działania w różnych grupach demograficznych. Badania i niezależne testy prowadzone przez lata wielokrotnie wykazywały, że wskaźniki błędów nie są rozłożone równomiernie, co oznacza, że niektórzy klienci mają statystycznie większe szanse na błędną identyfikację niż inni. W środowisku sklepowym fałszywe dopasowanie nie oznacza tylko nieprzyjemnego powiadomienia. Może skutkować tym, że klient zostanie zatrzymany, przesłuchany lub poproszony o opuszczenie sklepu, mimo że nie zrobił nic złego.
Obietnica supermarketów, że będą korzystać z tej technologii w sposób odpowiedzialny, nie zmienia podstawowego problemu z dokładnością. Korporacyjne zobowiązanie do unikania nadużyć to deklaracja polityczna, a nie techniczne rozwiązanie. Algorytm nadal popełnia te same błędy statystyczne, niezależnie od tego, jak starannie firma zapewnia, że będzie regulować jego użycie. To właśnie tę lukę wyśmiewa karykatura: rozbieżność między wadliwym narzędziem a pewnym siebie językiem, którym sprzedaje się je jako rozwiązanie.
Dane gdzieś trafiają i to też jest ryzyko
Poza błędną identyfikacją istnieje drugi poziom obaw, który często dostaje mniej uwagi: co dzieje się z danymi biometrycznymi po ich zebraniu. Systemy rozpoznawania twarzy wymagają przechowywania wzorców twarzy, obrazów lub logów dopasowań, a każda baza danych tego typu staje się celem ataków. Sprzedawcy detaliczni nie są tradycyjnie organizacjami stawiającymi bezpieczeństwo na pierwszym miejscu w takim stopniu jak banki czy operatorzy telekomunikacyjni, więc warto pamiętać o szerszym wzorcu podatności firm na zagrożenia. Raporty o brytyjskich producentach dotkniętych cyberatakami wykazały, że duża część firm przemysłowych została naruszona w ciągu ostatniego roku, a wiele z nich pozostało nieprzygotowanych — to przypomnienie, że sektory spoza tradycyjnych technologii często mają niedostateczne zasoby, by sprostać wymogom bezpieczeństwa danych, które obecnie przechowują. Sieć supermarketów przechowująca biometryczne wzorce milionów klientów podejmuje podobne ryzyko, niezależnie od tego, czy ma odpowiednią infrastrukturę.
Jest też wzorzec wart odnotowania w tym, jak technologia weryfikacji jest wdrażana z pewnymi siebie obietnicami, które nie zawsze wytrzymują kontrolę. Regulatorzy stawiali podobne pytania gdzie indziej, na przykład gdy Ofcom wszczął dochodzenie w sprawie systemów weryfikacji wieku TikToka po obawach, że kontrole nie działają tak, jak reklamowano. Rozpoznawanie twarzy w handlu detalicznym działa według podobnego scenariusza: technologia jest wprowadzana jako rozwiązanie realnego problemu, z towarzyszącymi zapewnieniami o odpowiedzialnym użytkowaniu, podczas gdy kwestie dokładności i nadzoru pozostają w dużej mierze nierozwiązane.
Co to oznacza dla Ciebie
Jeśli robisz zakupy w sklepie korzystającym z rozpoznawania twarzy, Twoja twarz jest skanowana i potencjalnie porównywana z bazą danych za każdym razem, gdy wchodzisz — niezależnie od tego, czy kiedykolwiek zrobiłeś coś złego. Prawdopodobnie nie zostaniesz poinformowany, jaki dokładnie system jest używany, jak długo przechowywane są Twoje dane ani jakie masz możliwości odwołania, jeśli zostaniesz błędnie oznaczony. Korporacyjne obietnice odpowiedzialnego użytkowania nie są egzekwowalnymi gwarancjami i nie rozwiązują problemów z dokładnością algorytmiczną wbudowanych w samą technologię.
Nie oznacza to, że każde użycie rozpoznawania twarzy jest złośliwe ani że każdy klient jest realnie zagrożony. Ale oznacza to, że ciężar dowodu powinien spoczywać na firmach wdrażających tę technologię, a nie na klientach przechodzących obok ich kamer. Zaufanie do każdego systemu przetwarzającego wrażliwe dane osobowe, biometryczne czy inne, powinno być poparte weryfikowalnymi praktykami, a nie uspokajającymi deklaracjami. To ten sam standard, który warto stosować do każdej usługi przetwarzającej Twoje dane, w tym niezależnie audytowanych praktyk bezpieczeństwa zamiast niezweryfikowanych twierdzeń o dobrych praktykach.
Wnioski dla kupujących
Zwracaj uwagę na oznakowanie przy wejściach do sklepów informujące o stosowaniu monitoringu lub technologii rozpoznawania twarzy i nie wahaj się pytać personelu lub korporacyjnej obsługi klienta, jakie dane są zbierane i jak długo są przechowywane. Jeśli uważasz, że zostałeś błędnie zidentyfikowany, poproś o formalną weryfikację zamiast akceptować decyzję na miejscu. A szerzej — pamiętaj, że obietnica firmy o odpowiedzialnym korzystaniu z technologii rozpoznawania twarzy to nie to samo co dowód, że system działa sprawiedliwie. W miarę jak ta technologia rozprzestrzenia się na kolejne codzienne przestrzenie, od supermarketów po transport publiczny, pytania podnoszone przez satyryczną karykaturę warto traktować równie poważnie jak każdą formalną debatę polityczną.
