Una caricatura con un punto serio

Cuando un caricaturista satírico apunta contra la tecnología de reconocimiento facial en los supermercados, vale la pena detenerse a preguntar hacia dónde apunta realmente el chiste. La tira cómica First Dog on the Moon de The Guardian, publicada bajo el titular "¿Ola de robos en tiendas? Poner tecnología de reconocimiento facial en todas partes lo solucionará", se burla de la idea de que los gigantes minoristas australianos Coles y Woolworths puedan resolver el robo simplemente cubriendo sus tiendas con cámaras y software biométrico. El remate funciona porque se basa en algo real: los algoritmos de reconocimiento facial tienen sesgos documentados, y las empresas que los implementan esencialmente piden al público que confíe en que no harán mal uso de una tecnología conocida por cometer errores.

Esa es la tensión en el centro de esta historia. Los minoristas presentan el reconocimiento facial como una actualización de seguridad sencilla, una forma de señalar a delincuentes conocidos antes de que lleguen a la caja. Pero la tecnología no opera en el vacío. Escanea, almacena y compara los rostros de cada cliente que cruza la puerta, haya sido sospechoso de algo o no.

Por qué importa el sesgo del reconocimiento facial en el comercio minorista

Los sistemas de reconocimiento facial tienen un historial bien establecido de funcionar de manera desigual entre distintos grupos demográficos. Estudios y pruebas independientes a lo largo de los años han encontrado repetidamente que las tasas de error no se distribuyen de manera equitativa, lo que significa que algunos compradores tienen estadísticamente más probabilidades de ser identificados erróneamente que otros. En un entorno minorista, una coincidencia falsa no solo produce una notificación inconveniente. Puede significar que un cliente sea detenido, interrogado o expulsado de una tienda sin haber hecho nada malo.

La promesa de los supermercados de que usarán esta tecnología de manera responsable no cambia el problema subyacente de precisión. Un compromiso corporativo de evitar el abuso es una declaración de políticas, no una solución técnica. El algoritmo sigue cometiendo los mismos errores estadísticos sin importar cuán cuidadosamente la empresa diga que gobernará su uso. Esta es precisamente la brecha que la caricatura se burla: el desajuste entre una herramienta defectuosa y el lenguaje confiado que se usa para venderla como una solución.

Los datos están en algún lugar, y eso también es un riesgo

Más allá de la identificación errónea, hay una segunda capa de preocupación que a menudo recibe menos atención: a dónde va la información biométrica una vez que se recopila. Los sistemas de reconocimiento facial requieren almacenar plantillas faciales, imágenes o registros de coincidencias, y cualquier base de datos de ese tipo se convierte en un objetivo. Los minoristas no son tradicionalmente organizaciones centradas en la seguridad como lo son los bancos o las telecomunicaciones, y el patrón más amplio de vulnerabilidad empresarial vale la pena tenerlo en cuenta. Informes sobre fabricantes del Reino Unido afectados por ciberataques encontraron que una gran parte de las empresas industriales fueron vulneradas durante el último año mientras muchas seguían sin estar preparadas, un recordatorio de que los sectores fuera de la tecnología tradicional a menudo carecen de recursos para las demandas de seguridad de los datos que ahora poseen. Una cadena de supermercados que almacena plantillas biométricas de millones de clientes asume un tipo de exposición similar, tenga o no la infraestructura para igualarla.

También hay un patrón que vale la pena notar en cómo la tecnología de verificación se implementa con promesas confiadas que no siempre se sostienen bajo escrutinio. Los reguladores han planteado preguntas similares en otros lugares, como cuando Ofcom abrió una investigación sobre los sistemas de verificación de edad de TikTok tras las preocupaciones de que los controles no funcionaban como se anunciaba. El reconocimiento facial en el comercio minorista sigue un guion comparable: se introduce una tecnología como solución a un problema real, acompañada de garantías sobre su uso responsable, mientras que las cuestiones de precisión y supervisión siguen sin resolverse en gran medida.

Qué significa esto para ti

Si compras en una tienda que usa reconocimiento facial, tu rostro está siendo escaneado y potencialmente comparado contra una base de datos cada vez que entras, hayas hecho algo malo o no. Es poco probable que te informen qué sistema específico está en uso, cuánto tiempo se retienen tus datos o qué recurso existe si eres marcado erróneamente. Las promesas corporativas sobre uso responsable no son garantías exigibles, y no abordan los problemas de precisión algorítmica inherentes a la tecnología misma.

Esto no significa que todo uso del reconocimiento facial sea malicioso o que cada comprador corra un riesgo significativo. Pero sí significa que la carga de la prueba debe recaer en las empresas que implementan esta tecnología, no en los clientes que pasan frente a sus cámaras. La confianza en cualquier sistema que maneje datos personales sensibles, biométricos o de otro tipo, debe respaldarse con prácticas verificables en lugar de declaraciones tranquilizadoras. Ese es el mismo estándar que vale la pena aplicar a cualquier servicio que maneje tus datos, incluyendo prácticas de seguridad auditadas de forma independiente en lugar de afirmaciones no verificadas de buen comportamiento.

Recomendaciones para los compradores

Presta atención a la señalización en las entradas de las tiendas que indique el uso de vigilancia o tecnología de reconocimiento facial, y no dudes en preguntar al personal o al servicio al cliente corporativo qué datos se recopilan y cuánto tiempo se conservan. Si crees que has sido identificado erróneamente, solicita una revisión formal en lugar de aceptar una decisión en el momento. Y de manera más amplia, ten en cuenta que la promesa de una empresa de usar la tecnología de reconocimiento facial de manera responsable no es lo mismo que una prueba de que el sistema funciona de manera justa. A medida que esta tecnología se extiende a más espacios cotidianos, desde supermercados hasta transporte público, las preguntas planteadas por una caricatura satírica merecen tomarse tan en serio como cualquier debate de políticas formal.