Una primicia para la policía australiana

La Policía de Australia Occidental se ha convertido en la primera fuerza del país en desplegar tecnología de reconocimiento facial en vivo en espacios públicos, y no tardó mucho en que el sistema diera resultados. Durante la prueba, los agentes utilizaron la tecnología para identificar y arrestar a alguien en tiempo real, un hito que la policía presenta como prueba de concepto y que los defensores de la privacidad tratan como una señal de advertencia.

El sistema funciona escaneando transmisiones de video en vivo; se informa que procesa cientos de rostros por minuto y los coteja al instante con una base de datos policial de imágenes. A diferencia del reconocimiento facial tradicional, que suele usarse a posteriori para comparar imágenes de la escena de un crimen con una base de datos, esta tecnología opera en el momento, marcando coincidencias a los agentes mientras las personas pasan frente a cámaras monitoreadas en tiempo real. Se informa que la prueba ha incluido un vehículo policial identificable estacionado cerca de eventos masivos y en zonas públicas concurridas, con el sistema verificando rostros contra lo que los funcionarios describen como una lista de alertas estrictamente controlada, compuesta por imágenes policiales obtenidas legalmente.

Por qué preocupa a los defensores de la privacidad

La Policía de WA presenta este arresto en vivo como prueba de que la tecnología funciona. Pero los críticos ven el mismo hecho como el inicio de una conversación mucho más amplia sobre cuánta vigilancia está dispuesto a aceptar el público a cambio de comodidad o seguridad.

Tres preocupaciones no dejan de surgir. La primera es el riesgo de alertas falsas: los sistemas de reconocimiento facial, incluso los más afinados, pueden identificar erróneamente a las personas, y una señal incorrecta en un contexto policial en vivo podría significar que una persona inocente sea detenida, interrogada o algo peor, basándose en el error de una computadora y no en pruebas. La segunda es el sesgo algorítmico. Los sistemas de reconocimiento facial tienen un historial documentado de menor precisión entre distintos grupos demográficos, lo que hace temer que algunas comunidades puedan verse afectadas de manera desproporcionada por coincidencias falsas. La tercera, y quizás la más persistente, es la preocupación por la expansión de funciones: una tecnología introducida con un fin limitado, como identificar a personas de una lista de alertas específica en eventos multitudinarios, puede ampliar gradualmente su alcance hasta convertirse en una herramienta rutinaria de vigilancia pública más amplia.

Este último punto es donde se concentra gran parte del rechazo. Una vez que existen la infraestructura y la aceptación pública para escanear multitudes en un festival de música o un evento deportivo, hay pocas barreras técnicas que impidan usarlo en protestas, centros de transporte o esquinas comunes. Los críticos sostienen que pruebas como esta tienden a normalizar la vigilancia de forma gradual, y cada expansión se justifica con el éxito de la anterior.

El problema mayor de los datos

Las pruebas de reconocimiento facial no solo plantean preguntas sobre las tácticas policiales; plantean preguntas sobre la gobernanza de los datos. Cada rostro escaneado, cotejado o registrado se convierte en un dato almacenado en un sistema gubernamental, y los sistemas gubernamentales no siempre han demostrado ser custodios fiables de información personal sensible. Los datos biométricos son especialmente delicados porque, a diferencia de una contraseña, un rostro no se puede cambiar si queda expuesto o se utiliza mal.

Aquí es donde la prueba de WA se conecta con un patrón más amplio de preocupación en torno a la tecnología del sector público. Las agencias gubernamentales almacenan cada vez más grandes volúmenes de datos personales, desde registros de licencias hasta escaneos biométricos, y el historial de protección de esos datos ha sido desigual. Problemas como el detallado en Filtración de datos del DOL de WA: Cuando los sistemas gubernamentales te fallan muestran cómo las vulnerabilidades en los sistemas gubernamentales pueden persistir durante años antes de ser solucionadas, y cómo las consecuencias recaen directamente sobre las personas comunes cuya información se suponía protegida. Una lista de alertas de reconocimiento facial es, en esencia, otra base de datos gubernamental sensible, y su seguridad importa tanto como su precisión.

Lo que esto significa para ti

Para los residentes de Australia Occidental, y para cualquiera que observe esta prueba como un indicador de la tecnología policial en otros lugares, el impacto inmediato es limitado: el sistema actualmente verifica los rostros contra una lista de alertas específica, en lugar de registrar a todas las personas que pasan. Pero la prueba marca un cambio significativo en la forma en que se pueden vigilar los espacios públicos, y es razonable hacer preguntas antes de que la tecnología se vuelva permanente o se expanda.

No hace falta ser experto en tecnología para tener interés en esto. Las pruebas públicas como esta suelen ir seguidas de revisiones, consultas públicas o escrutinio parlamentario, y la retroalimentación del público durante esos períodos realmente influye en si se incorporan medidas de supervisión. Entender qué se está escaneando, quién está en la lista de alertas y cuánto tiempo se conservan los datos son preguntas razonables para cualquier comunidad que se enfrente por primera vez a este tipo de tecnología.

Puntos clave

  • El reconocimiento facial en vivo difiere del cotejo a posteriori: marca a las personas en tiempo real mientras pasan frente a cámaras vigiladas, lo que eleva las consecuencias de cualquier error.
  • Los falsos positivos y el sesgo algorítmico siguen siendo riesgos reales, incluso en pruebas que se presentan como limitadas y controladas.
  • La expansión de funciones, la ampliación gradual del propósito original de una herramienta, es la preocupación que los expertos vigilan más de cerca.
  • La gobernanza de los datos importa tanto como la precisión. Una base de datos de reconocimiento facial es otro repositorio de datos personales sensibles que necesita una seguridad y supervisión sólidas.
  • El escrutinio público durante las fases de prueba es una de las pocas ventanas en las que la opinión de la comunidad puede influir en cómo, o si, esta tecnología se vuelve permanente.

A medida que la Policía de WA amplíe y evalúe esta prueba, el debate sobre el reconocimiento facial en vivo no hará más que intensificarse. Mantenerse informado sobre cómo se implementan estos sistemas y hacer preguntas sobre la supervisión y la protección de datos es la forma más práctica de que el público opine sobre hacia dónde se dirige esta tecnología.