Egy brit rendőrségi felügyeleti szerv figyelmeztetett, hogy az arcfelismerési hibák etnikai kisebbségeket tehetnek ki téves letartóztatás kockázatának. A The Guardian szerint az ellenőrök megállapították, hogy egyes rendőrök a retrospektív arcfelismerési keresésekből származó lehetséges egyezésekre támaszkodva cselekedtek anélkül, hogy elegendő további ellenőrzést végeztek volna. A megállapítás nyomatékot ad a brit arcfelismerési téves letartóztatásokkal kapcsolatos növekvő aggodalomnak, és felvet egy gyakorlati kérdést: mi védi meg az embert, amikor a szoftver a rossz arcra mutat?
A forrásul szolgáló cikk rövid, ezért ez a bejegyzés ahhoz tartja magát, amit jelentettek, és óvatosan magyarázza el a szélesebb összefüggéseket.
Mit találtak az ellenőrök a retrospektív arcfelismerésről
A retrospektív arcfelismerés különbözik az élő rendszerektől, amelyek valós időben szkennelik az arcokat, ahogy az emberek elhaladnak egy kamera előtt. Egy retrospektív keresés során a rendőrség vesz egy képet egy érdeklődésre számot tartó személyről, például egy CCTV-felvétel állóképét, és összehasonlítja egy képadatbázissal, hogy lehetséges egyezéseket generáljon.
A kulcsszó a „lehetséges”. A szoftver által talált egyezés nyom, nem azonosítás. A The Guardian beszámolója szerint az ellenőrök megállapították, hogy egyes rendőrök ezeket az eredményeket úgy kezelték, mint ami elegendő alapot ad a cselekvésre anélkül, hogy elegendő további ellenőrzést végeztek volna. A gyakorlatban ez azt jelenti, hogy egy lehetséges egyezés nagyobb súlyt kaphatott, mint amekkora megillette volna, mielőtt a letartóztatás megtörtént.
Ez legalább annyira folyamatprobléma, mint technológiai probléma. Még egy jól teljesítő algoritmus is produkál téves egyezéseket, ezért az emberek által utólag végzett ellenőrzések jelentik a fő védelmet a hiba ellen.
Miért vannak nagyobb kockázatnak kitéve az etnikai kisebbségek az egyeztetési hibák miatt
A felügyeleti szerv figyelmeztetése konkrétan kiemeli az etnikai kisebbségeket fenyegető kockázatot. Az aggodalom az, hogy az egyeztetési hibák nem egyenletesen oszlanak el a lakosság körében. Ha egy rendszer bizonyos csoportok esetében nagyobb valószínűséggel produkál téves egyezéseket, akkor ezek a csoportok nagyobb eséllyel lesznek tévesen gyanúsítottként megjelölve.
Ezt összekapcsolva az elégtelen ellenőrzéssel, a kockázat fokozódik. Egy téves egyezést, amelyet megfelelően megvizsgálnak, korán elkapnak. Egy téves egyezés, amelyet névértéken elfogadnak, igazoltatáshoz, letartóztatáshoz vagy még rosszabbhoz vezethet. A felügyeleti szerv aggodalma a kombináció: hibára hajlamos egyeztetés plusz gyenge ellenőrzés.
Ez az oka annak is, hogy a keresés lefolytatásának és felülvizsgálatának részletei számítanak. Ki vizsgálja a jelöltlistát, milyen egyéb bizonyíték szükséges, és hogyan kezelik a nézeteltéréseket – mindez alakítja, hogy egy hiba eljut-e egy valódi személyhez.
Hol marad el a brit védintézkedések és jogi szabályok teljesítése
Az ellenőrök megállapításai arra utalnak, hogy a védintézkedések papíron léteznek, de a gyakorlatban nem mindig alkalmazzák őket következetesen. Ez a rés az egyik oka annak, amiért a kormány a szabályokat vizsgálja. Foglalkoztunk a jogi keret szigorítására irányuló tervével a brit rendőrségi arcfelismerési szabályokról szóló, az oxford street-i kamerák által kiváltott cikkünkben, és a felügyeleti szerv megállapításai alátámasztják az egyértelműbb, kikényszeríthető előírások szükségességét mind a retrospektív, mind az élő keresésekre vonatkozóan.
A dokumentáció az egyik hely, ahol kereshetjük, hogyan kellene a védintézkedéseknek működniük. A Belügyminisztérium közzétett egy adatvédelmi értékelést a bevándorlási végrehajtás élő arcfelismeréséről, amelyet a Belügyminisztérium LFR adatvédelmi értékeléséről szóló áttekintésünkben foglaltunk össze. Az ilyen dokumentumok olvasása megmutatja, milyen kockázatokat ismernek el a hatóságok, és milyen enyhítéseket ígérnek. A próba az, hogy ezeket az ígéreteket a gyakorlatban betartják-e, és pontosan ezt vizsgálják az ehhez hasonló ellenőrzések.
Érdemes azt is megjegyezni, hogy az arcfelismerés nem korlátozódik a rendőrségre. A kiskereskedők is használják, és ugyanazok a pontossággal és jogorvoslattal kapcsolatos kérdések merülnek fel. A Facewatch-riasztásokról és a brit vásárlókról szóló tudósításunk a kép ezen oldalát tárja fel.
Milyen jogaid vannak, ha tévesen azonosítanak
A forrásul szolgáló cikk nem határoz meg egyéni jogorvoslatokat, ezért a következők általános útmutatásnak minősülnek, nem jogi tanácsadásnak.
- Kérdezd meg, mi az alapja. Ha megállítanak vagy letartóztatnak, kérdezheted, miért. Ha arcfelismerés volt érintett, kérdezd meg, hogy van-e bármilyen más bizonyíték, amely összeköt az esettel.
- Kérd ki az adataidat. A brit adatvédelmi jog szerint általában benyújthatod hozzáférési kérelmedet, hogy megtekintsd a személyes adatokat, amelyeket egy szervezet tárol rólad, bár a rendőrség bizonyos esetekben mentességeket alkalmazhat.
- Vezess nyilvántartást. Jegyezd fel a dátumokat, időpontokat, helyszíneket és az érintett rendőrök nevét vagy azonosító számát.
- Kérj tanácsot. Egy ügyvéd vagy egy polgári szabadságjogokra szakosodott szervezet elmagyarázhatja a panasz vagy kifogás lehetőségeit.
- Tegyél panaszt. Panaszt tehetsz az érintett rendőrségnél, és ha nem vagy elégedett, továbbviheted az ügyet.
Kiskereskedelmi környezetben a Facewatch-szkennelésekkel kapcsolatos kiskereskedelmi adatvédelmi jogaidról szóló útmutatónk ismerteti, hogyan lehet megkérdőjelezni és megtámadni egy megjelölést.
Mit jelent ez számodra
A legtöbb embert soha nem fogják tévesen egyeztetni, de a kockázat nem egyenlően oszlik meg, és a felügyeleti szerv figyelmeztetése emlékeztető arra, hogy egy szoftveres eredmény csak annyira megbízható, mint az mögötte lévő ellenőrzések. Egy VPN nem rejti el az arcodat az utcai kamera elől, ezért itt a valódi védelem jogi és eljárási jellegű: felügyelet, átláthatóság és a hibák megkérdőjelezésének joga.
Ha aggódsz, kövesd nyomon, hogyan fejlődnek a szabályok. Figyeld, hogy az új jogszabályok egyértelmű követelményeket támasztanak-e az emberi ellenőrzésre vonatkozóan, mielőtt egy egyezés alapján cselekszenek, és hogy folytatódik-e a független ellenőrzés.
Fő tanulságok
- Az arcfelismerésből származó egyezés nyom, nem a személyazonosság bizonyítéka.
- A felügyeleti szerv megállapította, hogy egyes rendőrök elegendő ellenőrzés nélkül cselekedtek retrospektív egyezések alapján.
- A figyelmeztetés szerint az etnikai kisebbségek nagyobb kockázatnak vannak kitéve az egyeztetési hibák miatt.
- Ha tévesen azonosítanak, kérdezd meg az alapot, vezess nyilvántartást, kérd ki az adataidat, és kérj tanácsot.
- Maradj tájékozott: olvass a kormány rendőrségi arcfelismerési szabályok szigorítására irányuló tervéről, és nézd meg, hogyan dokumentálják a védintézkedéseket a Belügyminisztérium LFR adatvédelmi értékelésében.
A brit arcfelismerési téves letartóztatási kockázat azon múlik, hogy az ellenőrzés lépést tart-e a technológiával. Amíg ez nem történik meg, a jogaid ismerete a legjobb gyakorlati védelmed.
