Um teste de reconhecimento facial ao vivo que a maioria dos moradores nunca soube que estava acontecendo

Em algo descrito como inédito na Austrália, a Polícia da Austrália Ocidental implantou silenciosamente câmeras de reconhecimento facial com IA ao vivo em Perth e Fremantle a partir de junho. Em uma única semana de teste, o sistema escaneou mais de 130.000 rostos, gerou 33 alertas e levou a 18 prisões. A polícia também disse que a tecnologia ajudou a identificar e abordar 21 infratores sexuais registrados na área.

A escala do escaneamento já é notável por si só, mas o que mais atraiu escrutínio foi como aconteceu: os moradores que caminhavam por essas ruas não foram informados de que estavam sendo escaneados. Não houve campanha de sinalização, período de consulta pública nem mecanismo claro de exclusão. Para muitos australianos, a primeira notícia que tiveram do programa veio pela cobertura jornalística depois do fato, e não por qualquer aviso da polícia ou do governo local.

Por que a falta de notificação é importante

Os sistemas de reconhecimento facial funcionam capturando imagens de pessoas em público e comparando-as com um banco de dados, muitas vezes em tempo real. Quando esse processo ocorre sem aviso público, as pessoas perdem a capacidade de fazer escolhas informadas sobre aonde vão, com quem são vistas ou como seus deslocamentos podem ser registrados e cruzados. Defensores da privacidade e especialistas jurídicos apontaram que isso mina um princípio básico da supervisão da vigilância: as pessoas geralmente devem saber quando e como estão sendo monitoradas, especialmente por agências governamentais.

O teste também produziu pelo menos uma identificação falsa confirmada, um lembrete de que mesmo sistemas de IA sofisticados podem identificar pessoas incorretamente, às vezes com consequências que vão de inconvenientes a graves. Os riscos de identificação incorreta também não são distribuídos de maneira uniforme; as ferramentas de reconhecimento facial têm um histórico bem documentado de taxas de erro mais altas para determinados grupos demográficos, o que levanta preocupações de equidade junto com as de privacidade.

A Polícia da Austrália Ocidental enquadrou os resultados em termos de vitórias para a segurança pública, prisões realizadas, infratores identificados e alertas gerados. Mas órgãos de defesa da privacidade argumentam que uma avaliação genuína de custo-benefício exige transparência sobre as regras do teste: por quanto tempo as imagens e os dados de correspondência são retidos, quem pode acessá-los, se são compartilhados com outras agências e o que acontece com os dados biométricos das dezenas de milhares de pessoas que foram escaneadas, mas não tinham ligação com nenhuma investigação.

O padrão mais amplo da coleta de dados biométricos

Este teste não existe isoladamente. Governos e empresas privadas em todo o mundo estão recorrendo cada vez mais à verificação biométrica, seja por meio de reconhecimento facial para policiamento, verificações biométricas em aeroportos ou sistemas de verificação de idade que escaneiam rostos para estimar a idade do usuário antes de conceder acesso a determinados conteúdos ou serviços. Cada um desses sistemas levanta uma questão central semelhante: quantos dados biométricos um único sistema deve ter permissão de coletar e por quanto tempo eles devem ser mantidos? Leitores curiosos sobre como essas compensações se desenrolam em um contexto diferente, mas relacionado, podem ver como as leis de verificação de idade ao redor do mundo já estão forçando debates semelhantes sobre escaneamento biométrico, retenção de dados e consentimento, muitas vezes com muito menos conscientização pública do que o alcance da tecnologia sugeriria.

O teste da Polícia da Austrália Ocidental é um estudo de caso útil precisamente porque mostra o que acontece quando a vigilância biométrica passa do debate político para a implantação ao vivo. A tecnologia funcionou como pretendido em muitos casos, mas a ausência de aviso público claro, de trilha de auditoria independente ou de opções formais de exclusão mostra como a capacidade pode superar rapidamente a supervisão.

O que isso significa para você

Se você mora ou visita Perth ou Fremantle, talvez já tenha sido escaneado sem saber, e essa mesma dinâmica pode se espalhar para outras cidades à medida que programas-piloto semelhantes forem considerados em outros lugares. Mesmo fora da Austrália, este caso é uma prévia de para onde estão indo os testes de reconhecimento facial com IA em espaços públicos: implementações silenciosas justificadas por estatísticas de segurança, com salvaguardas de privacidade muitas vezes adicionadas depois do fato, em vez de incorporadas desde o início.

Em geral, você não pode optar por não participar de um sistema de reconhecimento facial público ao vivo depois que ele estiver ativo na sua área, e é exatamente isso que torna a transparência e o debate público tão importantes antes de esses sistemas entrarem em operação, não depois.

Medidas práticas

  • Verifique se a polícia local ou a prefeitura da sua cidade publicou informações sobre testes de reconhecimento facial, atuais ou planejados, e procure um processo de consulta ou feedback público.
  • Apoie pedidos por políticas claras de retenção e exclusão de dados sempre que o reconhecimento facial ou outras ferramentas biométricas forem propostos para espaços públicos.
  • Exija auditorias independentes de precisão e viés em qualquer sistema de vigilância de IA antes que ele seja expandido além de uma fase piloto.
  • Mantenha-se informado sobre como os dados biométricos coletados para uma finalidade, como o policiamento, podem posteriormente ser compartilhados com outras agências ou empresas privadas.

O debate sobre os testes de reconhecimento facial com IA só tende a ficar mais intenso à medida que mais cidades testam sistemas semelhantes. Manter-se informado sobre como esses programas são implementados e exigir transparência quando não são é uma das formas mais práticas de o público influenciar como essa tecnologia será usada daqui para frente.