Britansko policijsko nadzorno tijelo upozorilo je da bi pogreške prepoznavanja lica mogle etničke manjine izložiti riziku od nezakonitih uhićenja. Prema The Guardianu, inspektori su otkrili da su neki policajci postupali na temelju potencijalnih podudaranja iz retroaktivnih pretraga prepoznavanja lica bez provođenja dovoljno dodatnih provjera. Taj nalaz daje težinu rastućoj zabrinutosti zbog slučajeva nezakonitih uhićenja temeljenih na prepoznavanju lica u Ujedinjenom Kraljevstvu i postavlja praktično pitanje: što štiti osobu kada softver pokaže na pogrešno lice?

Izvorni je članak kratak, pa se ovaj tekst drži onoga što je objavljeno i pažljivo objašnjava širi kontekst.

Što su inspektori otkrili o retroaktivnom prepoznavanju lica

Retroaktivno prepoznavanje lica razlikuje se od sustava uživo, koji skeniraju lica u stvarnom vremenu dok ljudi prolaze pored kamere. U retroaktivnoj pretrazi policija uzima sliku osobe od interesa, primjerice snimku sa CCTV-a, i uspoređuje je s bazom slika kako bi generirala potencijalna podudaranja.

Ključna riječ je "potencijalna". Podudaranje koje proizvede softver je trag, a ne identifikacija. Prema izvještavanju The Guardiana, inspektori su otkrili da su neki policajci tretirali te rezultate kao osnovu za postupanje bez provođenja dovoljno daljnjih provjera. U praksi to znači da je mogućem podudaranju možda pridana veća težina nego što je zasluživalo prije uhićenja.

To je problem procesa jednako kao i problem tehnologije. Čak i dobro funkcionirajući algoritam proizvodi lažna podudaranja, pa su provjere koje ljudi provode nakon toga glavna zaštita od pogreške.

Zašto su etničke manjine izložene većem riziku od pogrešaka pri podudaranju

Upozorenje nadzornog tijela posebno ističe rizik za etničke manjine. Zabrinutost je da pogreške pri podudaranju nisu ravnomjerno raspoređene po populaciji. Ako sustav vjerojatnije proizvodi lažna podudaranja za neke skupine, tada te skupine imaju veću šansu da budu pogrešno označene kao osumnjičenici.

Kombinirajte to s nedovoljnim provjerama i rizik se povećava. Lažno podudaranje koje se propisno ispita rano se otkriva. Lažno podudaranje koje se prihvati zdravo za gotovo može dovesti do zaustavljanja, uhićenja ili nečega goreg. Zabrinutost nadzornog tijela je kombinacija: podudaranje sklono pogreškama plus slaba verifikacija.

To je također razlog zašto su pojedinosti o tome kako se pretraga provodi i pregledava važne. Tko ispituje popis kandidata, koji su drugi dokazi potrebni i kako se postupa s neslaganjima – sve to oblikuje hoće li pogreška doći do stvarne osobe.

Gdje britanske zaštitne mjere i pravna pravila zakazuju

Nalazi inspektora upućuju na to da zaštitne mjere postoje na papiru, ali se u praksi ne primjenjuju uvijek dosljedno. Taj je jaz dio razloga zašto vlada razmatra pravila. Obradili smo njezin plan za pooštravanje pravnog okvira u tekstu o britanskim pravilima o policijskom prepoznavanju lica potaknutima kamerama na Oxford Streetu, a nalazi nadzornog tijela daju argument za jasnije, provedive standarde kako za retroaktivne tako i za pretrage uživo.

Dokumentacija je jedno mjesto na kojem se može vidjeti kako bi zaštitne mjere trebale funkcionirati. Ministarstvo unutarnjih poslova objavilo je procjenu privatnosti za prepoznavanje lica uživo u provedbi imigracijskih propisa, što smo saželi u našem pregledu procjene privatnosti LFR-a Ministarstva unutarnjih poslova. Čitanje takvih dokumenata pokazuje koje rizike tijela priznaju i koja ublažavanja obećavaju. Test je jesu li ta obećanja ispunjena na terenu, što je upravo ono što ispituju ovakve inspekcije.

Također je vrijedno napomenuti da prepoznavanje lica nije ograničeno na policiju. Trgovci ga također koriste, a ista pitanja o točnosti i pravnoj zaštiti vrijede. Naše izvještavanje o Facewatch upozorenjima i britanskim kupcima istražuje tu stranu slike.

Koja su vaša prava ako ste pogrešno identificirani

Izvorni članak ne navodi pojedinačne pravne lijekove, pa je sljedeće općenita smjernica, a ne pravni savjet.

  • Pitajte na temelju čega. Ako vas zaustave ili uhite, možete pitati zašto. Ako je prepoznavanje lica bilo uključeno, pitajte povezuje li vas ikakav drugi dokaz s incidentom.
  • Zatražite svoje podatke. Prema britanskom zakonu o zaštiti podataka, općenito možete podnijeti zahtjev za pristup podacima kako biste vidjeli osobne podatke koje organizacija drži o vama, iako policija ponekad može primijeniti izuzeća.
  • Vodite evidenciju. Zabilježite datume, vremena, lokacije te imena ili brojeve uključenih policajaca.
  • Potražite savjet. Odvjetnik ili organizacija specijalizirana za građanske slobode može vam objasniti vaše mogućnosti za pritužbe ili osporavanja.
  • Podnesite pritužbu. Možete podnijeti pritužbu dotičnoj policijskoj upravi i eskalirati ako niste zadovoljni.

Za trgovine, naš vodič o vašim pravima na privatnost u trgovinama u vezi s Facewatch skeniranjima objašnjava kako preispitati i osporiti oznaku.

Što to znači za vas

Većina ljudi nikada neće biti pogrešno podudarena, ali rizik nije ravnomjerno raspoređen, a upozorenje nadzornog tijela podsjetnik je da je rezultat softvera samo toliko pouzdan koliko su pouzdane provjere iza njega. VPN neće sakriti vaše lice od kamere na ulici, pa su stvarne zaštitne mjere ovdje pravne i proceduralne: nadzor, transparentnost i pravo na osporavanje pogrešaka.

Ako ste zabrinuti, pratite kako se pravila razvijaju. Obratite pozornost na to postavlja li novo zakonodavstvo jasne zahtjeve za ljudsku verifikaciju prije postupanja na temelju podudaranja i nastavlja li se neovisni nadzor.

Ključni zaključci

Rizik od nezakonitih uhićenja zbog prepoznavanja lica u Ujedinjenom Kraljevstvu svodi se na pitanje drži li verifikacija korak s tehnologijom. Dok ne drži, poznavanje svojih prava vaša je najbolja praktična zaštita.