Estudantes contestam o reconhecimento facial não regulamentado

Um grupo de estudantes de Delhi pediu formalmente ao Tribunal Superior de Delhi que ordene a destruição dos dados de reconhecimento facial recolhidos sobre eles durante protestos recentes. O pedido incide sobre as imagens captadas por uma carrinha de vigilância Ikshana, que a polícia de Delhi terá usado para analisar multidões e comparar rostos com uma base de dados existente, com um limiar de confiança de 80%. De acordo com a petição, não existe qualquer regra, regulamento ou lei publicada que defina como essa base de dados foi construída, quem lhe pode aceder ou durante quanto tempo os dados biométricos podem ser conservados.

Não é a primeira vez que o uso de reconhecimento facial pela polícia de Delhi em locais de protesto gera escrutínio. Reportagens já confirmaram que a polícia de Delhi usou tecnologia de reconhecimento facial em Jantar Mantar, na sequência de relatos anteriores de carrinhas de reconhecimento facial avistadas perto de manifestantes no mesmo local. O que torna este novo requerimento significativo é o pedido específico: não apenas uma explicação da base jurídica, mas uma ordem judicial para eliminar os dados de forma definitiva.

Por que razão o limiar de 80% é importante

Os sistemas de reconhecimento facial não produzem certezas, produzem pontuações de probabilidade. Um limiar de correspondência de 80% significa que o sistema foi concebido para assinalar um rosto como uma provável correspondência mesmo quando existe uma hipótese significativa de estar errado. Num ambiente controlado, como a verificação de um suspeito conhecido face a uma única fotografia, essa pode ser uma relação custo‑benefício aceitável. Aplicado a uma multidão de manifestantes, muitos dos quais podem não ter qualquer ligação a uma investigação criminal, o mesmo limiar transforma‑se em algo totalmente diferente: uma ferramenta que corre o risco de identificar incorretamente cidadãos comuns e de os incluir numa base de dados policial apenas com base na participação numa assembleia política.

Os peticionários argumentam que é precisamente este o dano que o reconhecimento facial cria quando é utilizado sem regras. Sem um quadro normativo, não existe uma norma definida sobre quem é analisado, o que acontece a uma correspondência falsa, durante quanto tempo os dados resultantes permanecem armazenados ou se podem ser reutilizados mais tarde para investigações não relacionadas. A ausência desse quadro é agora a questão jurídica central, que os tribunais de Delhi já começaram a examinar ao questionar a base jurídica para as análises faciais em protestos. A nova petição dos estudantes leva essa averiguação um passo mais longe, ao perguntar não apenas se a recolha foi lícita, mas o que deve acontecer aos dados agora que existem.

O padrão mais alargado da vigilância em protestos

O que está a emergir em Delhi reflete um padrão observado noutras jurisdições onde o reconhecimento facial passou de ferramenta de investigação para ferramenta de monitorização de multidões em manifestações públicas. A atração da tecnologia para as forças policiais é simples: pode processar muito mais rostos, muito mais depressa, do que qualquer agente humano posicionado numa barricada. Mas os protestos são também o contexto em que os riscos de identificação incorreta e de efeito inibidor são mais elevados. As pessoas que participam numa manifestação legal têm a expectativa razoável de que essa participação não resulte na recolha e armazenamento indefinido dos seus dados biométricos, especialmente quando nenhuma autoridade independente aprovou o sistema que faz a recolha nem estabeleceu limites para a forma como os resultados podem ser usados.

O pedido de destruição levanta também uma questão prática que os tribunais terão de abordar: uma vez recolhidos os dados biométricos e potencialmente cruzados com outros registos, será a eliminação um remédio realmente completo? Cópias, cópias de segurança e quaisquer correspondências subsequentes realizadas durante o período de conservação complicam aquilo que, de outra forma, seria uma simples ordem para apagar uma entrada de uma base de dados.

O que isto significa para si

Se participa em reuniões públicas, seja em Delhi ou noutro local, vale a pena compreender que o reconhecimento facial utilizado em protestos funciona de forma muito diferente da mesma tecnologia usada para desbloquear um telemóvel ou verificar uma identidade num posto de fronteira. Nesses contextos de consumo, normalmente dá o seu consentimento para a análise e controla o dispositivo que guarda os seus dados. Num protesto vigiado por câmaras policiais, nenhuma destas condições se verifica. Não existe qualquer mecanismo de consentimento e não tem qualquer visibilidade sobre se o seu rosto foi captado, comparado ou armazenado.

Este caso é um lembrete de que a responsabilização jurídica por estes sistemas fica muitas vezes anos atrás da sua implementação. Os tribunais colocarem perguntas básicas — quem autorizou, ao abrigo de que regra, com que limites de conservação — são questões que, sem dúvida, deveriam ter sido resolvidas antes de qualquer carrinha se aproximar de uma multidão, e não depois.

Pontos essenciais

  • Os estudantes de Delhi estão a pedir ao Tribunal Superior que ordene a destruição dos dados de reconhecimento facial obtidos a partir de imagens de protestos, e não apenas uma decisão sobre a legalidade.
  • O limiar de correspondência de 80% utilizado pela polícia suscita preocupações reais quanto à aplicação de correspondências falsas a manifestantes pacíficos.
  • De acordo com a petição, não existe atualmente qualquer regra publicada que regule a base de dados contra a qual a polícia de Delhi comparou os rostos.
  • Este caso insere‑se num padrão mais amplo de escrutínio do reconhecimento facial nos protestos de Jantar Mantar, e o seu desfecho pode moldar a forma como os tribunais indianos tratarão a vigilância biométrica das assembleias públicas no futuro.

À medida que este litígio se desenvolve, vale a pena observar não apenas se o tribunal ordena a destruição dos dados, mas também se estabelece algum padrão sobre a forma como o reconhecimento facial pode sequer ser utilizado em futuros protestos.