Test rozpoznawania twarzy na żywo, o którym większość mieszkańców nigdy się nie dowiedziała

W ramach opisywanego jako pierwszy taki przypadek w Australii przedsięwzięcia policja Australii Zachodniej po cichu wdrożyła w czerwcu w Perth i Fremantle kamery do rozpoznawania twarzy na żywo oparte na sztucznej inteligencji. W ciągu zaledwie jednego tygodnia testu system zeskanował ponad 130 000 twarzy, generując 33 alerty i doprowadzając do 18 aresztowań. Policja poinformowała również, że technologia pomogła zidentyfikować i skontaktować się z 21 zarejestrowanymi przestępcami seksualnymi w okolicy.

Sama skala skanowania jest godna uwagi, ale największe kontrowersje wzbudził sposób jej przeprowadzenia: mieszkańcy przechodzący tymi ulicami nie zostali poinformowani, że są skanowani. Nie było kampanii informacyjnej, okresu konsultacji publicznych ani jasnego mechanizmu rezygnacji. Dla wielu Australijczyków pierwszą informacją o programie były doniesienia medialne po fakcie, a nie komunikat policji czy władz lokalnych.

Dlaczego brak powiadomienia ma znaczenie

Systemy rozpoznawania twarzy działają poprzez przechwytywanie wizerunków osób w miejscach publicznych i porównywanie ich z bazą danych, często w czasie rzeczywistym. Gdy proces ten odbywa się bez publicznego powiadomienia, ludzie tracą możliwość świadomego decydowania o tym, dokąd chodzą, z kim są widywani ani jak ich przemieszczanie się może być rejestrowane i zestawiane z innymi danymi. Obrońcy prywatności i eksperci prawni zwracają uwagę, że podważa to podstawową zasadę nadzoru: ludzie powinni zasadniczo wiedzieć, kiedy i w jaki sposób są monitorowani, zwłaszcza przez agencje rządowe.

Test przyniósł również co najmniej jedno potwierdzone błędne zidentyfikowanie, co przypomina, że nawet zaawansowane systemy sztucznej inteligencji mogą mylić osoby, a konsekwencje bywają od uciążliwych po poważne. Ryzyko błędnej identyfikacji nie rozkłada się równomiernie; narzędzia do rozpoznawania twarzy mają dobrze udokumentowaną historię wyższych wskaźników błędów w przypadku niektórych grup demograficznych, co obok obaw o prywatność budzi również obawy o równe traktowanie.

Policja Australii Zachodniej przedstawia wyniki w kategoriach sukcesów na rzecz bezpieczeństwa publicznego: dokonanych aresztowań, zidentyfikowanych przestępców i wygenerowanych alertów. Jednak strażnicy prywatności argumentują, że rzetelna ocena kosztów i korzyści wymaga przejrzystości zasad testu: jak długo przechowywane są nagrania i dane dopasowań, kto ma do nich dostęp, czy są udostępniane innym agencjom oraz co dzieje się z danymi biometrycznymi dziesiątek tysięcy osób, które zostały zeskanowane, ale nie miały żadnego związku z żadnym dochodzeniem.

Szerszy wzorzec gromadzenia danych biometrycznych

Ten test nie istnieje w próżni. Rządy i firmy prywatne na całym świecie coraz częściej sięgają po weryfikację biometryczną — czy to przez rozpoznawanie twarzy do celów policyjnych, kontrole biometryczne na lotniskach, czy systemy weryfikacji wieku, które skanują twarze, aby oszacować wiek użytkownika przed udzieleniem dostępu do określonych treści lub usług. Każdy z tych systemów rodzi podobne, zasadnicze pytanie: ile danych biometrycznych powinien móc zbierać pojedynczy system i jak długo powinny być przechowywane? Czytelników ciekawych, jak te kompromisy wyglądają w innym, ale powiązanym kontekście, może zainteresować, w jaki sposób przepisy dotyczące weryfikacji wieku na całym świecie już wymuszają podobne debaty na temat skanowania biometrycznego, przechowywania danych i zgody, często przy znacznie mniejszej świadomości społecznej, niż sugerowałby zasięg tej technologii.

Test policji Australii Zachodniej jest użytecznym studium przypadku właśnie dlatego, że pokazuje, co się dzieje, gdy nadzór biometryczny przechodzi z debaty politycznej do wdrożenia na żywo. W wielu przypadkach technologia działała zgodnie z założeniami, ale brak wyraźnego publicznego powiadomienia, niezależnej ścieżki audytu czy formalnych możliwości rezygnacji pokazuje, jak szybko możliwości mogą wyprzedzać nadzór.

Co to oznacza dla Ciebie

Jeśli mieszkasz w Perth lub Fremantle albo je odwiedzasz, być może zostałeś już zeskanowany, nie wiedząc o tym, a ta sama dynamika może rozprzestrzenić się na inne miasta, gdy podobne programy pilotażowe będą rozważane gdzie indziej. Nawet poza Australią ten przypadek jest zapowiedzią kierunku, w którym zmierzają testy rozpoznawania twarzy opartego na sztucznej inteligencji w przestrzeni publicznej: ciche wdrożenia uzasadniane statystykami bezpieczeństwa, z zabezpieczeniami prywatności dodawanymi często po fakcie, a nie wbudowanymi od początku.

Zazwyczaj nie można zrezygnować z działania publicznego systemu rozpoznawania twarzy na żywo, gdy jest już aktywny w Twojej okolicy, i właśnie dlatego przejrzystość i debata publiczna są tak ważne przed uruchomieniem tych systemów, a nie po nim.

Praktyczne wnioski

  • Sprawdź, czy Twoja lokalna policja lub rada miasta opublikowała informacje na temat jakichkolwiek testów rozpoznawania twarzy — obecnych lub planowanych — i poszukaj procesu konsultacji publicznych lub możliwości przekazania uwag.
  • Wspieraj postulaty wprowadzenia jasnych zasad przechowywania i usuwania danych zawsze, gdy w przestrzeni publicznej proponowane są narzędzia rozpoznawania twarzy lub inne narzędzia biometryczne.
  • Domagaj się niezależnych audytów dokładności i stronniczości w każdym systemie nadzoru opartym na sztucznej inteligencji, zanim zostanie on rozszerzony poza fazę pilotażową.
  • Bądź na bieżąco z tym, jak dane biometryczne zebrane w jednym celu, na przykład do działań policyjnych, mogą później zostać udostępnione innym agencjom lub firmom prywatnym.

Debata wokół testów rozpoznawania twarzy opartego na sztucznej inteligencji będzie przybierać na sile, gdy kolejne miasta będą testować podobne systemy. Pozostawanie na bieżąco z tym, jak wdrażane są te programy, i domaganie się przejrzystości, gdy jej brakuje, to jeden z najbardziej praktycznych sposobów, w jakie opinia publiczna może wpływać na to, jak ta technologia będzie wykorzystywana w przyszłości.