La satira sul riconoscimento facciale di Coles e Woolworths accende il dibattito

Un fumetto con un punto serio

Quando un fumettista satirico prende di mira la tecnologia di riconoscimento facciale nei supermercati, vale la pena fermarsi a chiedersi cosa indica esattamente la battuta. La striscia First Dog on the Moon del Guardian, pubblicata con il titolo "Ondata di taccheggio?! Mettere il riconoscimento facciale ovunque risolverà tutto," prende in giro l'idea che i colossi australiani della vendita al dettaglio Coles e Woolworths possano risolvere il problema dei furti semplicemente tappezzando i negozi di telecamere e software biometrici. La battuta funziona perché si basa su qualcosa di reale: gli algoritmi di riconoscimento facciale hanno pregiudizi documentati, e le aziende che li implementano stanno essenzialmente chiedendo al pubblico di fidarsi del fatto che non faranno un uso improprio di una tecnologia nota per commettere errori.

È questa la tensione al centro della storia. I rivenditori presentano il riconoscimento facciale come un semplice aggiornamento della sicurezza, un modo per segnalare i criminali noti prima che raggiungano la cassa. Ma la tecnologia non opera nel vuoto. Scansiona, memorizza e confronta i volti di ogni cliente che varca la porta, che sia mai stato sospettato di qualcosa o no.

Perché il pregiudizio del riconoscimento facciale è importante nel retail

I sistemi di riconoscimento facciale hanno una comprovata reputazione di funzionare in modo disomogeneo tra diversi gruppi demografici. Studi e test indipendenti condotti nel corso degli anni hanno ripetutamente rilevato che i tassi di errore non sono distribuiti equamente, il che significa che alcuni acquirenti hanno statisticamente più probabilità di essere identificati erroneamente rispetto ad altri. In un contesto di vendita al dettaglio, una corrispondenza falsa non produce solo una notifica scomoda. Può significare che un cliente venga fermato, interrogato o invitato a uscire da un negozio in cui non ha fatto nulla di sbagliato.

La promessa dei supermercati di utilizzare questa tecnologia in modo responsabile non cambia il problema di fondo dell'accuratezza. Un impegno aziendale a evitare abusi è un impegno di policy, non una soluzione tecnica. L'algoritmo continua a commettere gli stessi errori statistici indipendentemente da quanto attentamente un'azienda dichiari di volerne governare l'uso. È esattamente questo il divario che il fumetto prende in giro: la discrepanza tra uno strumento imperfetto e il linguaggio sicuro con cui viene venduto come soluzione.

I dati finiscono da qualche parte, e anche questo è un rischio

Oltre all'errata identificazione, c'è un secondo livello di preoccupazione che spesso riceve meno attenzione: dove finiscono i dati biometrici una volta raccolti. I sistemi di riconoscimento facciale richiedono la memorizzazione di modelli facciali, immagini o registri di corrispondenza, e qualsiasi database di questo tipo diventa un bersaglio. I rivenditori non sono tradizionalmente organizzazioni con priorità di sicurezza informatica come banche o aziende di telecomunicazioni, e il modello più ampio di vulnerabilità aziendale merita attenzione. Un'inchiesta sui produttori britannici colpiti da attacchi informatici ha rilevato che una larga parte delle aziende industriali ha subito violazioni nell'ultimo anno, mentre molte erano impreparate, un promemoria del fatto che i settori al di fuori della tecnologia tradizionale sono spesso sotto-risorse rispetto alle esigenze di sicurezza dei dati che ora detengono. Una catena di supermercati che memorizza modelli biometrici di milioni di clienti si assume un tipo di esposizione simile, che abbia o meno le infrastrutture adeguate.

C'è anche un modello degno di nota nel modo in cui la tecnologia di verifica viene lanciata con promesse sicure che non sempre reggono sotto scrutinio. I regolatori hanno sollevato questioni simili altrove, ad esempio quando Ofcom ha aperto un'indagine sui sistemi di verifica dell'età di TikTok dopo preoccupazioni che i controlli non funzionassero come pubblicizzato. Il riconoscimento facciale nel retail segue uno schema comparabile: una tecnologia viene introdotta come soluzione a un problema reale, accompagnata da assicurazioni sull'uso responsabile, mentre le questioni di accuratezza e supervisione rimangono in gran parte irrisolte.

Cosa significa questo per te

Se fai acquisti in un negozio che utilizza il riconoscimento facciale, il tuo volto viene scansionato e potenzialmente confrontato con un database ogni volta che entri, indipendentemente dal fatto che tu abbia mai fatto qualcosa di sbagliato. È improbabile che ti venga detto quale sistema specifico è in uso, per quanto tempo vengono conservati i tuoi dati, o quale ricorso esista se vieni segnalato erroneamente. Le promesse aziendali sull'uso responsabile non sono garanzie esecutive e non affrontano i problemi di accuratezza algoritmica insiti nella tecnologia stessa.

Questo non significa che ogni uso del riconoscimento facciale sia dannoso o che ogni acquirente sia a rischio significativo. Ma significa che l'onere della prova dovrebbe ricadere sulle aziende che implementano questa tecnologia, non sui clienti che passano davanti alle loro telecamere. La fiducia in qualsiasi sistema che gestisce dati personali sensibili, biometrici o meno, dovrebbe essere supportata da pratiche verificabili piuttosto che da dichiarazioni rassicuranti. È lo stesso standard che vale la pena applicare a qualsiasi servizio che gestisce i tuoi dati, inclusi pratiche di sicurezza con audit indipendente piuttosto che affermazioni non verificate di buon comportamento.

Consigli per gli acquirenti

Presta attenzione alla segnaletica all'ingresso dei negozi che indica l'uso di sorveglianza o tecnologia di riconoscimento facciale, e non esitare a chiedere al personale o al servizio clienti aziendale quali dati vengono raccolti e per quanto tempo vengono conservati. Se ritieni di essere stato identificato erroneamente, richiedi una revisione formale piuttosto che accettare una decisione sul momento. E più in generale, tieni presente che la promessa di un'azienda di utilizzare la tecnologia di riconoscimento facciale in modo responsabile non è la stessa cosa della prova che il sistema funzioni in modo equo. Mentre questa tecnologia si diffonde in sempre più spazi quotidiani, dai supermercati al trasporto pubblico, le domande sollevate da un fumetto satirico meritano di essere prese sul serio quanto qualsiasi dibattito politico formale.