Pierwszy taki przypadek w australijskiej policji

Policja Australii Zachodniej jako pierwsza w kraju wdrożyła w przestrzeni publicznej technologię rozpoznawania twarzy w czasie rzeczywistym i nie trzeba było długo czekać na pierwszy rezultat. W trakcie próby funkcjonariusze wykorzystali tę technologię, aby zidentyfikować i aresztować osobę w czasie rzeczywistym – kamień milowy, który policja przedstawia jako dowód słuszności koncepcji, a obrońcy prywatności jako sygnał ostrzegawczy.

System działa poprzez skanowanie obrazu wideo na żywo, przetwarzając podobno setki twarzy na minutę i natychmiast porównując je z policyjną bazą zdjęć. W odróżnieniu od tradycyjnego rozpoznawania twarzy, które stosuje się zwykle po fakcie, aby dopasować nagrania z miejsca przestępstwa do bazy danych, ta technologia działa w czasie rzeczywistym, oznaczając dopasowania funkcjonariuszom, gdy ludzie przechodzą obok monitorowanych kamer. Próba polegała podobno na ustawieniu oznakowanego radiowozu w pobliżu dużych wydarzeń i w zatłoczonych miejscach publicznych, a system porównywał twarze z tym, co urzędnicy opisują jako ściśle kontrolowaną listę ostrzeżeń zawierającą legalnie przechowywane zdjęcia policyjne.

Dlaczego obrońcy prywatności są zaniepokojeni

Aresztowanie w czasie rzeczywistym jest przedstawiane przez policję WA jako dowód skuteczności tej technologii. Krytycy postrzegają jednak to samo wydarzenie jako początek znacznie szerszej dyskusji o tym, jak wiele inwigilacji społeczeństwo jest skłonne zaakceptować w zamian za wygodę czy bezpieczeństwo.

Nieustannie powracają trzy obawy. Pierwsza to ryzyko fałszywych alarmów: systemy rozpoznawania twarzy, nawet te dobrze dostrojone, mogą błędnie identyfikować osoby, a niesłuszne oznaczenie w kontekście działań policyjnych w czasie rzeczywistym może oznaczać, że niewinna osoba zostanie zatrzymana, przesłuchana lub gorzej – na podstawie błędu komputera, a nie dowodów. Druga to stronniczość algorytmiczna. Udokumentowano, że systemy rozpoznawania twarzy działają z różną dokładnością w różnych grupach demograficznych, co rodzi obawy, że niektóre społeczności mogą być nieproporcjonalnie dotknięte fałszywymi trafieniami. Trzecia i być może najbardziej uporczywa to obawa przed rozszerzaniem zakresu działania: technologia wprowadzona w wąskim celu, na przykład identyfikacji osób ze specjalnej listy ostrzeżeń podczas dużych wydarzeń, może stopniowo rozszerzać swój zakres, aż stanie się rutynowym narzędziem szerszego monitorowania przestrzeni publicznej.

Ten ostatni punkt skupia największy opór. Gdy już istnieje infrastruktura i przyzwolenie społeczne na skanowanie tłumów na festiwalu muzycznym czy imprezie sportowej, niewiele technicznych barier stoi na przeszkodzie, by użyć jej na protestach, w węzłach komunikacyjnych czy na zwykłych rogach ulic. Krytycy twierdzą, że takie próby jak ta zwykle stopniowo oswajają społeczeństwo z inwigilacją, a każda kolejna ekspansja jest uzasadniana sukcesem poprzedniej.

Szerszy problem z danymi

Próby z rozpoznawaniem twarzy nie rodzą jedynie pytań o taktykę policyjną – rodzą pytania o zarządzanie danymi. Każda zeskanowana, dopasowana lub zarejestrowana twarz staje się punktem danych w systemie rządowym, a systemy rządowe nie zawsze okazywały się godnymi zaufania strażnikami wrażliwych danych osobowych. Dane biometryczne są szczególnie wrażliwe, ponieważ w przeciwieństwie do hasła, twarzy nie da się zmienić, jeśli zostanie ujawniona lub wykorzystana w niewłaściwy sposób.

W tym miejscu próba w WA łączy się z szerszym wzorcem obaw dotyczących technologii w sektorze publicznym. Agencje rządowe przechowują coraz większe ilości danych osobowych – od rejestrów wydawania zezwoleń po skany biometryczne – a ich historia w zakresie bezpieczeństwa tych danych jest nierówna. Przypadki takie jak ten opisany w Naruszeniu danych WA DOL: Gdy systemy rządowe zawodzą pokazują, jak luki w systemach rządowych mogą utrzymywać się latami, zanim zostaną załatane, i jak konsekwencje spadają bezpośrednio na zwykłych ludzi, których informacje miały być chronione. Lista ostrzeżeń w systemie rozpoznawania twarzy to w gruncie rzeczy kolejna wrażliwa baza danych rządowych, a jej bezpieczeństwo liczy się tak samo jak dokładność.

Co to oznacza dla Ciebie

Dla mieszkańców Australii Zachodniej i dla wszystkich obserwujących tę próbę jako zapowiedź technologii policyjnych w innych miejscach, bezpośredni wpływ jest ograniczony: system na razie porównuje twarze z konkretną listą ostrzeżeń, zamiast rejestrować wszystkich przechodniów. Ale próba ta oznacza istotną zmianę w sposobie monitorowania przestrzeni publicznej i rozsądne jest zadawanie pytań, zanim technologia stanie się trwała lub rozszerzy swój zakres.

Nie trzeba być technologiem, by mieć w tym swój interes. Po takich publicznych testach zwykle następują przeglądy, konsultacje społeczne lub kontrola parlamentarna, a opinia publiczna wyrażona w tych momentach realnie wpływa na to, czy zostaną wbudowane mechanizmy nadzoru. Zrozumienie, co jest skanowane, kto znajduje się na liście ostrzeżeń i jak długo dane są przechowywane – to rozsądne pytania dla każdej społeczności, która po raz pierwszy styka się z taką technologią.

Kluczowe wnioski

  • Rozpoznawanie twarzy w czasie rzeczywistym różni się od dopasowywania po fakcie: oznacza osoby na żywo, gdy przechodzą obok monitorowanych kamer, co podnosi stawkę każdego błędu.
  • Fałszywe alarmy i stronniczość algorytmiczna pozostają realnym ryzykiem, nawet w testach przedstawianych jako wąskie i kontrolowane.
  • Rozszerzanie zakresu działania, czyli stopniowe wychodzenie poza pierwotny cel narzędzia, to obawa, której eksperci przyglądają się najuważniej.
  • Zarządzanie danymi ma znaczenie równie duże jak dokładność. Baza danych rozpoznawania twarzy to kolejne repozytorium wrażliwych danych osobowych, które wymaga silnego bezpieczeństwa i nadzoru.
  • Kontrola publiczna w fazie testów to jedno z niewielu okien, w których głos społeczności może wpłynąć na to, jak i czy ta technologia stanie się trwała.

W miarę jak policja WA rozszerza i ocenia tę próbę, dyskusja wokół rozpoznawania twarzy w czasie rzeczywistym będzie przybierać na sile. Pozostawanie poinformowanym o tym, jak te systemy są wdrażane, oraz zadawanie pytań o nadzór i ochronę danych to najbardziej praktyczny sposób, w jaki społeczeństwo może mieć wpływ na to, dokąd ta technologia zmierza.