Un essai de reconnaissance faciale en direct dont la plupart des résidents n'ont jamais eu connaissance

Dans ce qui est décrit comme une première en Australie, la police d'Australie-Occidentale a discrètement déployé des caméras de reconnaissance faciale à intelligence artificielle en direct à Perth et Fremantle à partir de juin. En une seule semaine d'essai, le système avait scanné plus de 130 000 visages, généré 33 alertes et conduit à 18 arrestations. La police a également indiqué que la technologie avait permis d'identifier et de prendre contact avec 21 délinquants sexuels enregistrés dans la zone.

L'ampleur du scan est remarquable en soi, mais ce qui a suscité le plus de critiques, c'est la manière dont cela s'est déroulé : les résidents qui traversaient ces rues n'ont pas été informés qu'ils étaient scannés. Aucune campagne de signalétique, aucune période de consultation publique, aucun mécanisme clair de désinscription. Pour de nombreux Australiens, ils ont entendu parler du programme pour la première fois par la couverture médiatique après coup, et non par un avis de la police ou des autorités locales.

Pourquoi l'absence de notification est importante

Les systèmes de reconnaissance faciale fonctionnent en capturant des images de personnes dans l'espace public et en les comparant à une base de données, souvent en temps réel. Lorsque ce processus fonctionne sans avis public, les gens perdent la capacité de faire des choix éclairés sur les lieux qu'ils fréquentent, les personnes avec qui ils sont vus, ou la manière dont leurs déplacements pourraient être enregistrés et recoupés. Les défenseurs de la vie privée et les experts juridiques ont souligné que cela sape un principe fondamental de la supervision des surveillances : les personnes devraient généralement savoir quand et comment elles sont surveillées, en particulier par des agences gouvernementales.

L'essai a également produit au moins une fausse identification confirmée, un rappel que même les systèmes d'IA sophistiqués peuvent identifier des personnes à tort, parfois avec des conséquences allant de l'inconvénient au grave. Les risques de mauvaise identification ne sont pas non plus répartis uniformément ; les outils de reconnaissance faciale ont un historique bien documenté de taux d'erreur plus élevés pour certains groupes démographiques, ce qui soulève des préoccupations d'équité en plus de celles liées à la vie privée.

La police d'Australie-Occidentale a présenté les résultats sous l'angle des victoires en matière de sécurité publique : arrestations effectuées, délinquants identifiés, alertes générées. Mais les gardiens de la vie privée soutiennent qu'une véritable évaluation coûts-bénéfices exige de la transparence sur les règles de l'essai : combien de temps les images et les données de correspondance sont conservées, qui peut y accéder, si elles sont partagées avec d'autres agences, et ce qu'il advient des données biométriques des dizaines de milliers de personnes qui ont été scannées sans avoir aucun lien avec une enquête.

Le schéma plus large de la collecte de données biométriques

Cet essai n'existe pas de manière isolée. Les gouvernements et les entreprises privées du monde entier se tournent de plus en plus vers la vérification biométrique, que ce soit par la reconnaissance faciale pour le maintien de l'ordre, les contrôles biométriques dans les aéroports, ou les systèmes de vérification de l'âge qui scannent les visages pour estimer l'âge d'un utilisateur avant de lui accorder l'accès à certains contenus ou services. Chacun de ces systèmes soulève une question centrale similaire : quelle quantité de données biométriques un système donné devrait-il être autorisé à collecter, et pendant combien de temps devrait-il les conserver ? Les lecteurs curieux de voir comment ces arbitrages se manifestent dans un contexte différent mais connexe peuvent consulter comment les lois sur la vérification de l'âge dans le monde imposent déjà des débats similaires sur le scan biométrique, la conservation des données et le consentement, souvent avec bien moins de sensibilisation du public que la portée de la technologie ne le suggérerait.

L'essai de la police d'Australie-Occidentale est une étude de cas utile précisément parce qu'il montre ce qui se passe lorsque la surveillance biométrique passe d'un débat politique à un déploiement en conditions réelles. La technologie a fonctionné comme prévu dans de nombreux cas, mais l'absence d'avis public clair, de piste d'audit indépendante ou d'options formelles de désinscription montre à quelle vitesse la capacité peut dépasser la supervision.

Ce que cela signifie pour vous

Si vous vivez à Perth ou à Fremantle, ou si vous les visitez, vous avez peut-être déjà été scanné sans le savoir, et cette même dynamique pourrait s'étendre à d'autres villes à mesure que des programmes pilotes similaires sont envisagés ailleurs. Même en dehors de l'Australie, ce cas est un aperçu de la direction que prennent les essais de reconnaissance faciale par IA dans les espaces publics : des déploiements discrets justifiés par des statistiques de sécurité, avec des garanties de confidentialité souvent ajoutées après coup plutôt qu'intégrées dès le départ.

Vous ne pouvez généralement pas vous désinscrire d'un système public de reconnaissance faciale en direct une fois qu'il est actif dans votre région, ce qui explique précisément pourquoi la transparence et le débat public sont si importants avant la mise en service de ces systèmes, et non après.

Points à retenir concrets

  • Vérifiez si votre force de police locale ou votre conseil municipal a publié des informations sur tout essai de reconnaissance faciale, actuel ou prévu, et cherchez un processus de retour public ou de consultation.
  • Soutenez les demandes de politiques claires de conservation et de suppression des données chaque fois que la reconnaissance faciale ou d'autres outils biométriques sont proposés pour les espaces publics.
  • Exigez des audits indépendants sur la précision et les biais de tout système de surveillance par IA avant son extension au-delà d'une phase pilote.
  • Restez informé sur la manière dont les données biométriques collectées à une fin, comme le maintien de l'ordre, pourraient ensuite être partagées avec d'autres agences ou entreprises privées.

Le débat autour des essais de reconnaissance faciale par IA ne va faire que s'amplifier à mesure que davantage de villes testeront des systèmes similaires. Rester informé sur la manière dont ces programmes sont déployés, et exiger de la transparence lorsqu'ils ne le sont pas, est l'un des moyens les plus pratiques pour le public d'influencer la manière dont cette technologie sera utilisée à l'avenir.