Un organism de supraveghere a poliției din Regatul Unit a avertizat că erorile de recunoaștere facială ar putea expune minoritățile etnice riscului de arestări abuzive. Potrivit The Guardian, inspectorii au constatat că unii ofițeri au acționat pe baza unor posibile potriviri rezultate din căutări de recunoaștere facială retrospectivă fără a efectua suficiente verificări suplimentare. Constatarea întărește îngrijorarea tot mai mare cu privire la cazurile de arestări abuzive cauzate de recunoașterea facială în Regatul Unit și ridică o întrebare practică: ce protejează o persoană atunci când software-ul indică fața greșită?
Articolul sursă este scurt, așa că această postare se limitează la ceea ce a fost raportat și explică contextul mai amplu cu atenție.
Ce au constatat inspectorii despre recunoașterea facială retrospectivă
Recunoașterea facială retrospectivă diferă de sistemele live, care scanează fețele în timp real pe măsură ce oamenii trec prin fața unei camere. Într-o căutare retrospectivă, poliția ia o imagine a unei persoane de interes, cum ar fi un cadru static din CCTV, și o compară cu o bază de date de imagini pentru a genera posibile potriviri.
Cuvântul cheie este „posibil". O potrivire generată de software este o pistă, nu o identificare. Potrivit relatării The Guardian, inspectorii au constatat că unii ofițeri au tratat aceste rezultate ca pe un motiv de a acționa fără a efectua suficiente verificări suplimentare. În practică, aceasta înseamnă că unei posibile potriviri i s-a putut acorda mai multă greutate decât merita înainte de a se dispune o arestare.
Aceasta este o problemă de proces la fel de mult ca o problemă de tehnologie. Chiar și un algoritm performant produce potriviri false, așa că verificările pe care le efectuează oamenii ulterior reprezintă principala garanție împotriva erorii.
De ce minoritățile etnice se confruntă cu un risc mai mare din cauza erorilor de potrivire
Avertismentul organismului de supraveghere evidențiază în mod specific riscul la adresa minorităților etnice. Îngrijorarea este că erorile de potrivire nu se distribuie uniform în rândul populației. Dacă un sistem este mai susceptibil de a produce potriviri false pentru anumite grupuri, atunci acele grupuri se confruntă cu o probabilitate mai mare de a fi semnalate în mod greșit ca suspect.
Combinați acest lucru cu verificări insuficiente și riscul se amplifică. O potrivire falsă care este examinată corespunzător este depistată devreme. O potrivire falsă acceptată ca atare poate duce la o oprire, o arestare sau mai rău. Îngrijorarea organismului de supraveghere este combinația: potriviri predispuse la erori plus verificare slabă.
Acesta este și motivul pentru care detaliile privind modul în care este efectuată și revizuită o căutare contează. Cine examinează lista de candidați, ce alte dovezi sunt necesare și modul în care sunt gestionate dezacordurile modelează toate dacă o eroare ajunge la o persoană reală.
Unde garanțiile și regulile legale din Regatul Unit nu sunt suficiente
Constatările inspectorilor sugerează că garanțiile există pe hârtie, dar nu sunt întotdeauna aplicate în mod consecvent în practică. Această lacună este parțial motivul pentru care guvernul a analizat regulile. Am abordat planul său de a consolida cadrul legal în articolul nostru despre regulile britanice privind recunoașterea facială a poliției, declanșate de camerele de pe Oxford Street, iar constatările organismului de supraveghere susțin necesitatea unor standarde mai clare și aplicabile pentru căutările retrospective, precum și pentru cele live.
Documentația este un loc în care se poate vedea cum ar trebui să funcționeze garanțiile. Ministerul de Interne a publicat o evaluare a confidențialității pentru recunoașterea facială live utilizată în aplicarea legii imigrației, pe care am rezumat-o în analiza noastră a evaluării de confidențialitate LFR a Ministerului de Interne. Citirea unor astfel de documente arată ce riscuri recunosc autoritățile și ce măsuri de atenuare promit. Testul este dacă aceste promisiuni sunt respectate pe teren, ceea ce examinează exact inspecțiile ca aceasta.
Merită menționat și că recunoașterea facială nu se limitează la poliție. Comercianții cu amănuntul o folosesc și ei, iar aceleași întrebări despre acuratețe și căi de recurs se aplică. Materialul nostru despre alertele Facewatch și cumpărătorii din Regatul Unit explorează această latură a tabloului.
Care sunt drepturile tale dacă ești identificat greșit
Articolul sursă nu prezintă căi de remediere individuale, așa că cele ce urmează reprezintă îndrumări generale, nu consultanță juridică.
- Întreabă care este baza. Dacă ești oprit sau arestat, poți întreba de ce. Dacă a fost implicată recunoașterea facială, întreabă dacă există alte dovezi care te leagă de incident.
- Solicită-ți datele. În temeiul legislației britanice privind protecția datelor, poți în general depune o cerere de acces la datele personale pe care o organizație le deține despre tine, deși poliția poate aplica uneori derogări.
- Păstrează o evidență. Notează datele, orele, locațiile și numele sau numerele ofițerilor implicați.
- Caută sfaturi. Un avocat sau o organizație specializată în libertăți civile îți poate explica opțiunile de plângere sau contestare.
- Depune o plângere. Poți depune o plângere la forța de poliție implicată și o poți escalada dacă nu ești mulțumit.
Pentru contexte comerciale, ghidul nostru despre drepturile tale de confidențialitate în comerțul cu amănuntul legate de scanările Facewatch explică cum să soliciți clarificări și să contestați un semnal.
Ce înseamnă acest lucru pentru tine
Majoritatea oamenilor nu vor fi niciodată potriviți greșit, dar riscul nu este distribuit în mod egal, iar avertismentul organismului de supraveghere este un memento că un rezultat software este la fel de fiabil pe cât sunt verificările din spatele lui. Un VPN nu îți va ascunde fața de o cameră de pe stradă, așa că protecțiile reale aici sunt legale și procedurale: supraveghere, transparență și dreptul de a contesta erorile.
Dacă ești îngrijorat, urmărește cum evoluează regulile. Fii atent dacă noile legi stabilesc cerințe clare pentru verificarea umană înainte de a se acționa pe baza unei potriviri și dacă inspecția independentă continuă.
Principalele concluzii
- O potrivire din recunoașterea facială este o pistă, nu o dovadă a identității.
- Organismul de supraveghere a constatat că unii ofițeri au acționat pe baza unor potriviri retrospective fără suficiente verificări.
- Minoritățile etnice se confruntă cu un risc mai mare din cauza erorilor de potrivire, potrivit avertismentului.
- Dacă ești identificat greșit, întreabă care este baza, păstrează evidențe, solicită-ți datele și caută sfaturi.
- Rămâi informat: citește despre planul guvernului de a consolida regulile privind recunoașterea facială a poliției și vezi cum sunt documentate garanțiile în evaluarea de confidențialitate LFR a Ministerului de Interne.
Riscul de arestare abuzivă cauzată de recunoașterea facială în Regatul Unit se reduce la întrebarea dacă verificarea ține pasul cu tehnologia. Până când o va face, cunoașterea drepturilor tale este cea mai bună protecție practică.
