Una sperimentazione di riconoscimento facciale in tempo reale che la maggior parte dei residenti non ha mai conosciuto

In quello che viene descritto come un primato australiano, la polizia dell’Australia Occidentale ha discretamente installato telecamere di riconoscimento facciale con intelligenza artificiale in tempo reale a Perth e Fremantle a partire da giugno. In una sola settimana di sperimentazione, il sistema ha scansionato più di 130.000 volti, generando 33 segnalazioni e portando a 18 arresti. La polizia ha inoltre dichiarato che la tecnologia ha contribuito a identificare e a entrare in contatto con 21 autori di reati sessuali registrati nella zona.

La portata della scansione è di per sé notevole, ma ciò che ha attirato maggiore attenzione critica è come è avvenuta: i residenti che camminavano per quelle strade non sono stati informati che sarebbero stati scansionati. Non c’è stata una campagna di cartellonistica, né un periodo di consultazione pubblica, né un chiaro meccanismo di opt-out. Per molti australiani, la prima notizia del programma è arrivata dalla copertura giornalistica a cose fatte, non da un avviso della polizia o del governo locale.

Perché la mancanza di avviso è importante

I sistemi di riconoscimento facciale funzionano catturando immagini di persone in pubblico e confrontandole con un database, spesso in tempo reale. Quando questo processo avviene senza un avviso pubblico, le persone perdono la possibilità di fare scelte informate su dove andare, con chi farsi vedere o come i loro spostamenti potrebbero essere registrati e incrociati. I difensori della privacy e gli esperti legali hanno sottolineato che ciò mina un principio fondamentale del controllo della sorveglianza: le persone dovrebbero generalmente sapere quando e come vengono monitorate, soprattutto da parte delle agenzie governative.

La sperimentazione ha inoltre prodotto almeno un caso confermato di falsa identificazione, a ricordare che anche i sistemi di intelligenza artificiale più sofisticati possono identificare erroneamente le persone, a volte con conseguenze che vanno dal semplice disagio al grave. I rischi di errore di identificazione non sono distribuiti in modo uniforme; gli strumenti di riconoscimento facciale hanno una storia ben documentata di tassi di errore più elevati per determinati gruppi demografici, il che solleva preoccupazioni di equità accanto a quelle sulla privacy.

La polizia dell’Australia Occidentale ha presentato i risultati in termini di successi per la sicurezza pubblica, arresti effettuati, trasgressori identificati e segnalazioni generate. Ma gli osservatori della privacy sostengono che una valutazione costi-benefici autentica richieda trasparenza sulle regole della sperimentazione: per quanto tempo vengono conservati i filmati e i dati di corrispondenza, chi può accedervi, se vengono condivisi con altre agenzie e cosa accade ai dati biometrici delle decine di migliaia di persone che sono state scansionate senza avere alcun collegamento con un’indagine.

Il modello più ampio di raccolta di dati biometrici

Questa sperimentazione non esiste in modo isolato. I governi e le aziende private di tutto il mondo ricorrono sempre più alla verifica biometrica, sia attraverso il riconoscimento facciale per le forze dell’ordine, i controlli biometrici negli aeroporti, sia attraverso sistemi di verifica dell’età che scansionano i volti per stimare l’età dell’utente prima di concedere l’accesso a determinati contenuti o servizi. Ciascuno di questi sistemi solleva una domanda centrale simile: quanti dati biometrici dovrebbe poter raccogliere un singolo sistema e per quanto tempo dovrebbero essere conservati? I lettori curiosi di sapere come questi compromessi si manifestano in un contesto diverso ma correlato possono vedere come le leggi sulla verifica dell’età nel mondo stiano già alimentando dibattiti simili su scansione biometrica, conservazione dei dati e consenso, spesso con una consapevolezza pubblica molto inferiore a quanto suggerirebbe la portata della tecnologia.

La sperimentazione della polizia dell’Australia Occidentale è un caso di studio utile proprio perché mostra cosa accade quando la sorveglianza biometrica passa dal dibattito politico all’impiego operativo. La tecnologia ha funzionato come previsto in molti casi, ma l’assenza di un chiaro avviso pubblico, di una pista di controllo indipendente o di opzioni formali di opt-out mostra quanto rapidamente le capacità possano superare la supervisione.

Cosa significa per te

Se vivi o visiti Perth o Fremantle, potresti essere già stato scansionato senza saperlo, e la stessa dinamica potrebbe diffondersi in altre città man mano che programmi pilota simili vengono presi in considerazione altrove. Anche al di fuori dell’Australia, questo caso è un’anticipazione della direzione che stanno prendendo le sperimentazioni di riconoscimento facciale con intelligenza artificiale negli spazi pubblici: introduzioni silenziose giustificate da statistiche sulla sicurezza, con garanzie di privacy spesso aggiunte a posteriori invece di essere integrate fin dall’inizio.

In genere non puoi escluderti da un sistema di riconoscimento facciale pubblico in tempo reale una volta che è attivo nella tua zona, ed è proprio questo che rende la trasparenza e il dibattito pubblico così importanti prima che questi sistemi entrino in funzione, non dopo.

Indicazioni pratiche

  • Verifica se il tuo corpo di polizia locale o il consiglio comunale ha pubblicato informazioni su eventuali sperimentazioni di riconoscimento facciale, in corso o pianificate, e cerca un processo di consultazione o di feedback pubblico.
  • Sostieni le richieste di politiche chiare di conservazione e cancellazione dei dati ogni volta che vengono proposti il riconoscimento facciale o altri strumenti biometrici per gli spazi pubblici.
  • Chiedi audit indipendenti sull’accuratezza e sui pregiudizi in qualsiasi sistema di sorveglianza basato sull’intelligenza artificiale prima che venga esteso oltre la fase pilota.
  • Tieniti informato su come i dati biometrici raccolti per uno scopo, ad esempio il mantenimento dell’ordine pubblico, potrebbero in seguito essere condivisi con altre agenzie o aziende private.

Il dibattito sulle sperimentazioni di riconoscimento facciale con intelligenza artificiale è destinato a intensificarsi man mano che più città testeranno sistemi simili. Restare informati su come vengono implementati questi programmi e pretendere trasparenza quando non lo sono è uno dei modi più concreti con cui il pubblico può influenzare il modo in cui questa tecnologia verrà utilizzata in futuro.