Un dessin avec un message sérieux

Lorsqu'un dessinateur satirique s'en prend à la technologie de reconnaissance faciale dans les supermarchés, il vaut la peine de s'arrêter pour se demander ce que la blague vise réellement. La bande dessinée First Dog on the Moon du Guardian, publiée sous le titre « Vague de vols à l'étalage ?! Mettre de la reconnaissance faciale partout va régler le problème », se moque de l'idée que les géants australiens de la distribution Coles et Woolworths peuvent résoudre le vol simplement en inondant leurs magasins de caméras et de logiciels biométriques. La chute fonctionne parce qu'elle s'ancre dans quelque chose de réel : les algorithmes de reconnaissance faciale présentent des biais documentés, et les entreprises qui les déploient demandent essentiellement au public de leur faire confiance pour ne pas abuser d'une technologie connue pour faire des erreurs.

C'est là toute la tension au cœur de cette histoire. Les détaillants présentent la reconnaissance faciale comme une simple amélioration de sécurité, un moyen de signaler les délinquants connus avant qu'ils n'atteignent la caisse. Mais la technologie ne fonctionne pas en vase clos. Elle scanne, stocke et compare les visages de chaque client qui franchit la porte, qu'il ait ou non déjà fait l'objet de soupçons.

Pourquoi le biais de la reconnaissance faciale compte dans la distribution

Les systèmes de reconnaissance faciale ont un bilan bien établi de performances inégales selon les groupes démographiques. Des études et des tests indépendants menés au fil des ans ont constamment montré que les taux d'erreur ne sont pas répartis de manière égale, ce qui signifie que certains acheteurs sont statistiquement plus susceptibles d'être mal identifiés que d'autres. Dans un contexte de vente au détail, une fausse correspondance ne produit pas simplement une notification gênante. Elle peut signifier qu'un client est arrêté, interrogé ou prié de quitter un magasin alors qu'il n'a rien fait de mal.

La promesse des supermarchés d'utiliser cette technologie de manière responsable ne change pas le problème sous-jacent de précision. Un engagement d'entreprise à éviter les abus est un engagement politique, pas une solution technique. L'algorithme commet toujours les mêmes erreurs statistiques, quelle que soit la manière dont l'entreprise affirme encadrer son utilisation. C'est précisément cet écart que le dessin tourne en dérision : le décalage entre un outil imparfait et le langage assuré utilisé pour le vendre comme une solution.

Les données sont stockées quelque part, et c'est aussi un risque

Au-delà de la mauvaise identification, il existe un deuxième niveau de préoccupation qui reçoit souvent moins d'attention : où vont les données biométriques une fois collectées. Les systèmes de reconnaissance faciale exigent de stocker des gabarits faciaux, des images ou des journaux de correspondance, et toute base de données de ce type devient une cible. Les détaillants ne sont pas traditionnellement des organisations axées sur la sécurité comme le sont les banques ou les télécommunications, et la tendance plus large de la vulnérabilité des entreprises mérite d'être gardée à l'esprit. Un reportage sur les fabricants britanniques touchés par des cyberattaques a révélé qu'une grande partie des entreprises industrielles avaient été victimes de brèches au cours de l'année écoulée, tandis que beaucoup restaient mal préparées, rappelant que les secteurs en dehors de la technologie traditionnelle sont souvent sous-équipés face aux exigences de sécurité des données qu'ils détiennent désormais. Une chaîne de supermarchés stockant des gabarits biométriques sur des millions de clients assume un type d'exposition similaire, qu'elle dispose ou non de l'infrastructure nécessaire.

Il existe également une tendance à noter dans la manière dont la technologie de vérification est déployée avec des promesses assurées qui ne résistent pas toujours à l'examen. Les régulateurs ont soulevé des questions similaires ailleurs, comme lorsque l'Ofcom a ouvert une enquête sur les systèmes de vérification de l'âge de TikTok après des inquiétudes selon lesquelles les contrôles ne fonctionnaient pas comme annoncé. La reconnaissance faciale dans la distribution suit un scénario comparable : une technologie est présentée comme une solution à un problème réel, accompagnée d'assurances sur une utilisation responsable, tandis que les questions de précision et de supervision restent largement sans réponse.

Ce que cela signifie pour vous

Si vous faites vos courses dans un magasin qui utilise la reconnaissance faciale, votre visage est scanné et potentiellement comparé à une base de données à chaque fois que vous entrez, que vous ayez ou non fait quelque chose de mal. Il est peu probable qu'on vous dise quel système spécifique est utilisé, combien de temps vos données sont conservées, ou quel recours existe si vous êtes signalé à tort. Les promesses d'entreprise concernant une utilisation responsable ne sont pas des garanties exécutoires, et elles ne résolvent pas les problèmes de précision algorithmique intégrés à la technologie elle-même.

Cela ne signifie pas que chaque utilisation de la reconnaissance faciale est malveillante ou que chaque acheteur court un risque significatif. Mais cela signifie que la charge de la preuve devrait incomber aux entreprises qui déploient cette technologie, et non aux clients qui passent devant leurs caméras. La confiance dans tout système qui traite des données personnelles sensibles, biométriques ou autres, devrait être appuyée par des pratiques vérifiables plutôt que par des déclarations rassurantes. C'est le même standard qui mérite d'être appliqué à tout service traitant vos données, y compris les pratiques de sécurité auditées de manière indépendante plutôt que des affirmations non vérifiées de bons comportements.

Conseils pour les acheteurs

Soyez attentifs à la signalétique aux entrées des magasins indiquant l'utilisation de la surveillance ou de la technologie de reconnaissance faciale, et n'hésitez pas à demander au personnel ou au service client de l'entreprise quelles données sont collectées et combien de temps elles sont conservées. Si vous pensez avoir été mal identifié, demandez un examen formel plutôt que d'accepter une décision sur-le-champ. Et plus largement, gardez à l'esprit que la promesse d'une entreprise d'utiliser la technologie de reconnaissance faciale de manière responsable n'équivaut pas à une preuve que le système fonctionne de manière équitable. Alors que cette technologie se répand dans des espaces de plus en plus quotidiens, des supermarchés aux transports publics, les questions soulevées par un dessin satirique méritent d'être prises aussi au sérieux que n'importe quel débat politique formel.