Un'authority di controllo della polizia britannica ha avvertito che gli errori nel riconoscimento facciale potrebbero mettere le minoranze etniche a rischio di arresto errato. Secondo The Guardian, gli ispettori hanno rilevato che alcuni agenti hanno agito sulla base di potenziali corrispondenze emerse da ricerche retrospettive di riconoscimento facciale senza effettuare sufficienti verifiche aggiuntive. La scoperta rafforza la crescente preoccupazione per i casi di arresti errati da riconoscimento facciale nel Regno Unito e solleva una questione pratica: cosa protegge una persona quando il software indica il volto sbagliato?
L'articolo di origine è breve, quindi questo post si attiene a quanto è stato riportato ed espone con attenzione il contesto più ampio.
Cosa hanno rilevato gli ispettori sul riconoscimento facciale retrospettivo
Il riconoscimento facciale retrospettivo è diverso dai sistemi in tempo reale, che scansionano i volti in tempo reale mentre le persone passano davanti a una telecamera. In una ricerca retrospettiva, la polizia prende un'immagine di una persona di interesse, ad esempio un fotogramma di un circuito di videosorveglianza, e la confronta con un database di immagini per generare potenziali corrispondenze.
La parola chiave è "potenziali". Una corrispondenza prodotta dal software è un indizio, non un'identificazione. Secondo quanto riportato da The Guardian, gli ispettori hanno rilevato che alcuni agenti hanno trattato questi risultati come motivi per agire senza effettuare sufficienti verifiche ulteriori. In pratica, ciò significa che a una possibile corrispondenza potrebbe essere stato attribuito un peso maggiore di quanto meritasse prima che venisse effettuato un arresto.
Si tratta di un problema di processo tanto quanto di un problema tecnologico. Anche un algoritmo ben funzionante produce corrispondenze errate, quindi le verifiche che gli esseri umani effettuano successivamente costituiscono la principale salvaguardia contro l'errore.
Perché le minoranze etniche affrontano un rischio maggiore di errori di corrispondenza
L'avvertimento dell'authority di controllo evidenzia specificamente il rischio per le minoranze etniche. La preoccupazione è che gli errori di corrispondenza non si distribuiscano in modo uniforme nella popolazione. Se un sistema è più propenso a produrre corrispondenze errate per alcuni gruppi, allora tali gruppi affrontano una probabilità maggiore di essere erroneamente segnalati come sospetti.
Combinate questo con verifiche insufficienti e il rischio si moltiplica. Una corrispondenza errata adeguatamente esaminata viene individuata precocemente. Una corrispondenza errata accettata acriticamente può portare a un controllo, a un arresto o a conseguenze peggiori. La preoccupazione dell'authority di controllo è la combinazione: corrispondenze soggette a errori più verifica debole.
Questo è anche il motivo per cui i dettagli su come viene condotta ed esaminata una ricerca sono importanti. Chi esamina l'elenco dei candidati, quali altre prove sono richieste e come vengono gestiti i disaccordi: tutto ciò determina se un errore raggiunge una persona reale.
Dove le salvaguardie e le norme giuridiche del Regno Unito risultano carenti
Le conclusioni degli ispettori suggeriscono che le salvaguardie esistono sulla carta ma non vengono sempre applicate in modo coerente nella pratica. Questa lacuna è parte del motivo per cui il governo ha esaminato le regole. Abbiamo trattato il suo piano per rafforzare il quadro giuridico nel nostro articolo su regole britanniche sul riconoscimento facciale della polizia sollecitate dalle telecamere di Oxford Street, e le conclusioni dell'authority di controllo sostengono la necessità di standard più chiari e applicabili sia per le ricerche retrospettive che per quelle in tempo reale.
La documentazione è un punto in cui cercare come le salvaguardie dovrebbero funzionare. Il Ministero dell'Interno ha pubblicato una valutazione sulla privacy per il riconoscimento facciale in tempo reale dell'applicazione delle norme sull'immigrazione, che abbiamo riassunto nel nostro esame della valutazione sulla privacy del LFR del Ministero dell'Interno. La lettura di tali documenti mostra quali rischi le autorità riconoscono e quali misure di mitigazione promettono. La prova è se tali promesse vengono mantenute sul campo, che è esattamente ciò che esaminano ispezioni come questa.
Vale anche la pena notare che il riconoscimento facciale non è limitato alla polizia. Anche i rivenditori lo utilizzano, e le stesse domande su accuratezza e possibilità di ricorso si applicano. La nostra copertura su avvisi Facewatch e acquirenti britannici esplora questo aspetto della questione.
Quali sono i tuoi diritti se vieni identificato erroneamente
L'articolo di origine non stabilisce rimedi individuali, quindi quanto segue è un'orientamento generale e non un parere legale.
- Chiedi quale sia la base. Se vieni fermato o arrestato, puoi chiedere il motivo. Se è stato coinvolto il riconoscimento facciale, chiedi se altre prove ti collegano all'incidente.
- Richiedi i tuoi dati. Ai sensi della legge britannica sulla protezione dei dati, puoi generalmente presentare una richiesta di accesso per vedere i dati personali che un'organizzazione detiene su di te, sebbene la polizia possa talvolta applicare esenzioni.
- Conserva un registro. Annota date, orari, luoghi e nomi o numeri di matricola degli agenti coinvolti.
- Cerca consulenza. Un avvocato, o un'organizzazione specializzata in libertà civili, può spiegarti le tue opzioni per reclami o contestazioni.
- Presenta un reclamo. Puoi presentare un reclamo alla forza di polizia coinvolta e ricorrere in appello se non sei soddisfatto.
Per quanto riguarda i contesti commerciali, la nostra guida sui tuoi diritti alla privacy nel settore retail riguardo alle scansioni Facewatch spiega come contestare e mettere in discussione una segnalazione.
Cosa significa questo per te
La maggior parte delle persone non sarà mai identificata erroneamente, ma il rischio non è distribuito equamente, e l'avvertimento dell'authority di controllo è un promemoria del fatto che un risultato software è affidabile solo quanto le verifiche che lo sostengono. Una VPN non nasconderà il tuo volto da una telecamera per strada, quindi le vere protezioni in questo ambito sono legali e procedurali: supervisione, trasparenza e il diritto di contestare gli errori.
Se sei preoccupato, segui l'evoluzione delle regole. Presta attenzione a se la nuova legislazione stabilisce requisiti chiari per la verifica umana prima che venga intrapresa un'azione su una corrispondenza, e se l'ispezione indipendente continua.
Punti chiave
- Una corrispondenza dal riconoscimento facciale è un indizio, non una prova dell'identità.
- L'authority di controllo ha rilevato che alcuni agenti hanno agito su corrispondenze retrospettive senza verifiche sufficienti.
- Le minoranze etniche affrontano un rischio maggiore di errori di corrispondenza, secondo l'avvertimento.
- Se vieni identificato erroneamente, chiedi la base, conserva i registri, richiedi i tuoi dati e cerca consulenza.
- Rimani informato: leggi il piano del governo per rafforzare le regole sul riconoscimento facciale della polizia e scopri come le salvaguardie sono documentate nella valutazione sulla privacy del LFR del Ministero dell'Interno.
Il rischio di arresti errati da riconoscimento facciale nel Regno Unito si riduce alla questione se la verifica tenga il passo con la tecnologia. Finché non lo farà, conoscere i tuoi diritti è la tua migliore protezione pratica.
