Una prima volta per le forze dell'ordine australiane

La polizia dell'Australia occidentale è diventata la prima forza del paese a impiegare la tecnologia di riconoscimento facciale in tempo reale negli spazi pubblici, e non ci è voluto molto perché il sistema producesse un risultato. Durante la sperimentazione, gli agenti hanno utilizzato la tecnologia per identificare e arrestare una persona in tempo reale, un traguardo che la polizia presenta come una prova di funzionamento e che i difensori della privacy considerano un segnale d'allarme.

Il sistema funziona analizzando flussi video in diretta, elaborando, a quanto riferito, centinaia di volti al minuto, e confrontandoli all'istante con un database di immagini della polizia. A differenza del riconoscimento facciale tradizionale, tipicamente usato a posteriori per confrontare i filmati di una scena del crimine con un database, questa tecnologia opera sul momento, segnalando le corrispondenze agli agenti mentre le persone passano davanti alle telecamere monitorate in tempo reale. La sperimentazione ha coinvolto un veicolo della polizia contrassegnato, posizionato in prossimità di grandi eventi e in aree pubbliche affollate, con il sistema che confronta i volti con quella che i funzionari descrivono come una lista di allerta rigorosamente controllata, contenente immagini di polizia legalmente detenute.

Perché i difensori della privacy sono preoccupati

L'arresto in tempo reale è stato additato dalla polizia del WA come prova che la tecnologia funziona. Ma i critici vedono lo stesso evento come l'inizio di una conversazione molto più ampia su quanta sorveglianza il pubblico sia disposto ad accettare in cambio di comodità o sicurezza.

Tre preoccupazioni continuano a emergere. La prima è il rischio di falsi allarmi: i sistemi di riconoscimento facciale, anche quelli ben tarati, possono identificare erroneamente le persone, e un falso positivo in un contesto di polizia in tempo reale potrebbe significare che una persona innocente venga fermata, interrogata o peggio, sulla base di un errore del computer anziché di prove. La seconda è il pregiudizio algoritmico. I sistemi di riconoscimento facciale hanno una storia documentata di prestazioni meno accurate tra i diversi gruppi demografici, sollevando il timore che alcune comunità possano essere colpite in modo sproporzionato da falsi abbinamenti. La terza, e forse la più insistente, è la preoccupazione per lo slittamento di funzione: una tecnologia introdotta per uno scopo ristretto, come identificare le persone presenti in una specifica lista di allerta in occasione di grandi eventi, può gradualmente ampliare il proprio ambito fino a diventare uno strumento di routine per un monitoraggio pubblico più esteso.

Proprio su quest'ultimo punto si concentra gran parte dell'opposizione. Una volta che esistono l'infrastruttura e l'accettazione pubblica per la scansione delle folle a un festival musicale o a un evento sportivo, c'è poco che impedisca tecnicamente di utilizzarla in occasione di proteste, snodi di trasporto o normali angoli di strada. I critici sostengono che sperimentazioni come questa tendono a normalizzare la sorveglianza in modo incrementale, con ogni espansione giustificata dal successo della precedente.

Il problema più ampio dei dati

Le sperimentazioni sul riconoscimento facciale non sollevano solo interrogativi sulle tattiche di polizia; sollevano domande sulla governance dei dati. Ogni volto scansionato, abbinato o registrato diventa un punto dati all'interno di un sistema governativo, e i sistemi governativi non si sono sempre dimostrati custodi affidabili di informazioni personali sensibili. I dati biometrici sono particolarmente delicati perché, a differenza di una password, un volto non può essere modificato se viene esposto o usato in modo improprio.

È qui che la sperimentazione del WA si collega a un modello più ampio di preoccupazione riguardo alla tecnologia del settore pubblico. Le agenzie governative detengono volumi sempre maggiori di dati personali, dai registri delle patenti alle scansioni biometriche, e il curriculum in termini di sicurezza di quei dati è stato discontinuo. Problemi come quello descritto in WA DOL Data Breach: Quando i sistemi governativi ti tradiscono mostrano come le vulnerabilità nei sistemi governativi possano persistere per anni prima di essere affrontate, e come le conseguenze ricadano direttamente sulle persone comuni le cui informazioni avrebbero dovuto essere protette. Una lista di allerta per il riconoscimento facciale è, nella sua essenza, un altro database governativo sensibile, e la sua sicurezza è importante tanto quanto la sua accuratezza.

Cosa significa per te

Per i residenti dell'Australia occidentale, e per chiunque osservi questa sperimentazione come un campanello d'allarme per la tecnologia di polizia altrove, l'impatto immediato è limitato: attualmente il sistema confronta i volti con una specifica lista di allerta, anziché registrare chiunque passi. Ma la sperimentazione segna un cambiamento significativo nel modo in cui gli spazi pubblici possono essere monitorati, ed è ragionevole porsi delle domande prima che la tecnologia diventi permanente o si espanda.

Non è necessario essere esperti di tecnologia per avere voce in capitolo. Sperimentazioni pubbliche come questa sono in genere seguite da revisioni, consultazioni pubbliche o esami parlamentari, e il feedback del pubblico durante queste finestre temporali influenza concretamente l'eventuale integrazione di misure di controllo. Capire cosa viene scansionato, chi è nella lista di allerta e per quanto tempo i dati vengono conservati sono domande ragionevoli per qualsiasi comunità che si trovi ad affrontare questo tipo di tecnologia per la prima volta.

Punti chiave

  • Il riconoscimento facciale in tempo reale differisce dal confronto a posteriori: segnala le persone nel momento in cui passano davanti alle telecamere monitorate, alzando la posta in gioco di qualsiasi errore.
  • I falsi positivi e i pregiudizi algoritmici rimangono rischi reali, anche in sperimentazioni definite come mirate e controllate.
  • Lo slittamento di funzione, l'espansione graduale dello scopo originario di uno strumento, è la preoccupazione che gli esperti osservano con maggiore attenzione.
  • La governance dei dati è importante quanto l'accuratezza. Un database di riconoscimento facciale è un altro archivio di dati personali sensibili che necessita di sicurezza e controlli solidi.
  • L'esame pubblico durante le fasi di sperimentazione è una delle poche finestre in cui il contributo della comunità può influenzare come, o se, questa tecnologia diventerà permanente.

Mentre la polizia del WA amplia e valuta questa sperimentazione, il dibattito sul riconoscimento facciale in tempo reale non potrà che intensificarsi. Rimanere informati su come questi sistemi vengono impiegati e porre domande sul controllo e sulla protezione dei dati è il modo più concreto per il pubblico di far sentire la propria voce sulla direzione che questa tecnologia prenderà.