Organ nadzorczy ostrzega, że błędy w rozpoznawaniu twarzy grożą bezpodstawnymi aresztowaniami

Brytyjski organ nadzorujący policję ostrzegł, że błędy w rozpoznawaniu twarzy mogą narażać mniejszości etniczne na ryzyko bezpodstawnych aresztowań. Według The Guardian inspektorzy stwierdzili, że niektórzy funkcjonariusze działali na podstawie potencjalnych trafień z retrospektywnych wyszukiwań w systemach rozpoznawania twarzy, nie przeprowadzając wystarczających dodatkowych weryfikacji. To odkrycie wzmacnia rosnące zaniepokojenie przypadkami bezpodstawnych aresztowań związanych z rozpoznawaniem twarzy w Wielkiej Brytanii i rodzi praktyczne pytanie: co chroni osobę, gdy oprogramowanie wskazuje niewłaściwą twarz?

Artykuł źródłowy jest krótki, więc ten tekst trzyma się tego, co zostało zgłoszone, i ostrożnie wyjaśnia szerszy kontekst.

Co inspektorzy ustalili w sprawie retrospektywnego rozpoznawania twarzy

Retrospektywne rozpoznawanie twarzy różni się od systemów działających w czasie rzeczywistym, które skanują twarze na bieżąco, gdy ludzie przechodzą przed kamerą. W wyszukiwaniu retrospektywnym policja bierze obraz osoby budzącej zainteresowanie, na przykład stopklatkę z monitoringu, i porównuje go z bazą danych obrazów w celu wygenerowania potencjalnych trafień.

Kluczowe słowo to „potencjalne". Trafienie z oprogramowania jest wskazówką, a nie identyfikacją. Według doniesień The Guardian inspektorzy stwierdzili, że niektórzy funkcjonariusze traktowali te wyniki jako podstawę do działania bez przeprowadzenia wystarczających dalszych weryfikacji. W praktyce oznacza to, że możliwemu trafieniu mogła zostać nadana większa waga, niż na to zasługiwało, zanim doszło do aresztowania.

To problem procesu w równym stopniu co problem technologii. Nawet dobrze działający algorytm generuje fałszywe trafienia, więc weryfikacje przeprowadzane później przez ludzi są głównym zabezpieczeniem przed błędem.

Dlaczego mniejszości etniczne są bardziej narażone na błędy dopasowania

Ostrzeżenie organu nadzorczego szczególnie podkreśla ryzyko dla mniejszości etnicznych. Obawa polega na tym, że błędy dopasowania nie rozkładają się równomiernie w populacji. Jeśli system częściej generuje fałszywe trafienia dla niektórych grup, to te grupy mają wyższą szansę na błędne oznaczenie jako podejrzany.

W połączeniu z niewystarczającą weryfikacją ryzyko się kumuluje. Fałszywe trafienie, które zostanie należycie zbadane, jest wychwytywane wcześnie. Fałszywe trafienie przyjęte za dobrą monetę może prowadzić do zatrzymania, aresztowania lub czegoś gorszego. Obawa organu nadzorczego dotyczy kombinacji: podatnego na błędy dopasowania plus słabej weryfikacji.

To także dlaczego szczegóły dotyczące sposobu przeprowadzania i przeglądu wyszukiwania mają znaczenie. Kto bada listę kandydatów, jakie inne dowody są wymagane i jak rozwiązywane są rozbieżności — wszystko to kształtuje, czy błąd dotrze do rzeczywistej osoby.

Gdzie brytyjskie zabezpieczenia i przepisy prawne zawodzą

Ustalenia inspektorów sugerują, że zabezpieczenia istnieją na papierze, ale nie zawsze są stosowane konsekwentnie w praktyce. Ta luka jest częścią powodów, dla których rząd przygląda się przepisom. Omówiliśmy jego plan zaostrzenia ram prawnych w naszym artykule o brytyjskich przepisach dotyczących rozpoznawania twarzy przez policję, wywołanych kamerami na Oxford Street, a ustalenia organu nadzorczego wzmacniają argument za jaśniejszymi, egzekwowalnymi standardami zarówno dla wyszukiwań retrospektywnych, jak i tych w czasie rzeczywistym.

Dokumentacja to jedno z miejsc, gdzie można sprawdzić, jak mają działać zabezpieczenia. Home Office opublikował ocenę prywatności dla rozpoznawania twarzy w czasie rzeczywistym w egzekwowaniu przepisów imigracyjnych, którą podsumowaliśmy w naszym przeglądzie oceny prywatności LFR Home Office. Czytanie takich dokumentów pokazuje, jakie ryzyka władze uznają i jakie środki zaradcze obiecują. Testem jest to, czy te obietnice są dotrzymywane w praktyce — co jest dokładnie tym, co badają takie inspekcje.

Warto również zauważyć, że rozpoznawanie twarzy nie ogranicza się do policji. Detaliści również go używają, a te same pytania o dokładność i możliwość odwołania się mają zastosowanie. Nasze omówienie alertów Facewatch i brytyjskich klientów bada tę stronę obrazu.

Jakie masz prawa, jeśli zostaniesz błędnie zidentyfikowany

Artykuł źródłowy nie określa indywidualnych środków prawnych, więc poniższe wskazówki mają charakter ogólny, a nie porad prawnych.

• Zapytaj, jaka jest podstawa. Jeśli zostaniesz zatrzymany lub aresztowany, możesz zapytać dlaczego. Jeśli zaangażowane było rozpoznawanie twarzy, zapytaj, czy jakiekolwiek inne dowody łączą cię ze zdarzeniem.
• Zażądaj swoich danych. Zgodnie z brytyjskim prawem ochrony danych możesz zazwyczaj złożyć wniosek o dostęp do danych osobowych, które organizacja przechowuje na twój temat, choć policja może czasami zastosować wyłączenia.
• Prowadź rejestr. Zanotuj daty, godziny, miejsca oraz imiona lub numery zaangażowanych funkcjonariuszy.
• Zasięgnij porady. Adwokat lub organizacja specjalizująca się w wolnościach obywatelskich może wyjaśnić twoje opcje dotyczące skarg lub zakwestionowania.
• Złóż skargę. Możesz złożyć skargę do danego oddziału policji i eskalować ją, jeśli nie jesteś usatysfakcjonowany.

W kontekście detalicznym nasz przewodnik po twoich prawach do prywatności w handlu detalicznym w związku ze skanami Facewatch opisuje, jak kwestionować i podważać oznaczenie.

Co to oznacza dla ciebie

Większość ludzi nigdy nie zostanie błędnie dopasowana, ale ryzyko nie rozkłada się równomiernie, a ostrzeżenie organu nadzorczego przypomina, że wynik oprogramowania jest tak wiarygodny, jak weryfikacje stojące za nim. VPN nie ukryje twojej twarzy przed kamerą na ulicy, więc prawdziwymi zabezpieczeniami są tu kwestie prawne i proceduralne: nadzór, przejrzystość i prawo do zakwestionowania błędów.

Jeśli jesteś zaniepokojony, śledź, jak rozwijają się przepisy. Zwracaj uwagę, czy nowe ustawodawstwo określa jasne wymogi weryfikacji przez człowieka przed podjęciem działań na podstawie trafienia oraz czy niezależna inspekcja jest kontynuowana.

Najważniejsze wnioski

• Trafienie z rozpoznawania twarzy to wskazówka, a nie dowód tożsamości.
• Organ nadzorczy stwierdził, że niektórzy funkcjonariusze działali na podstawie trafień retrospektywnych bez wystarczających weryfikacji.
• Mniejszości etniczne są bardziej narażone na błędy dopasowania, zgodnie z ostrzeżeniem.
• Jeśli zostaniesz błędnie zidentyfikowany, zapytaj o podstawę, prowadź rejestry, zażądaj swoich danych i zasięgnij porady.
• Bądź na bieżąco: przeczytaj o planie rządu zaostrzenia przepisów dotyczących rozpoznawania twarzy przez policję i zobacz, jak zabezpieczenia są udokumentowane w ocenie prywatności LFR Home Office.

Ryzyko bezpodstawnego aresztowania związanego z rozpoznawaniem twarzy w Wielkiej Brytanii sprowadza się do tego, czy weryfikacja nadąża za technologią. Dopóki tak nie jest, znajomość swoich praw jest twoją najlepszą praktyczną ochroną.