Um desafio jurídico à vigilância policial com IA

Ativistas dos direitos digitais e líderes estudantis da Índia levaram o governo do primeiro-ministro Narendra Modi ao tribunal pelo uso de inteligência artificial para monitorar recentes manifestações juvenis em Nova Déli. A ativista estudantil Aishe Ghosh apresentou uma petição ao Tribunal Superior de Déli pedindo que os juízes declarem inconstitucional o uso policial de vigilância massiva com IA contra os manifestantes.

A petição centra-se em relatos de que a Polícia de Déli destacou tecnologia de reconhecimento facial, incluindo carrinhas de vigilância especializadas equipadas com câmaras de IA, nos locais das manifestações. De acordo com os relatos do caso, esta tecnologia foi usada para identificar e rastrear indivíduos que participaram no que foi descrito como um dos maiores protestos juvenis que a cidade viu nos últimos anos. A petição argumenta que digitalizar os rostos dos manifestantes sem o seu conhecimento ou consentimento, e usar esses dados para construir perfis de quem esteve presente, ultrapassa uma linha legal que protege os cidadãos contra a intrusão governamental indevida.

Este caso baseia-se diretamente numa ação anterior abordada na nossa reportagem sobre a petição que contesta a vigilância com IA de manifestantes, que pedia ao tribunal que decidisse que a monitorização massiva de manifestantes viola as proteções constitucionais. Em conjunto, estas ações legais representam um dos desafios mais diretos até agora sobre a forma como as autoridades indianas estão a usar ferramentas de IA para policiar a dissidência pública.

Por que o reconhecimento facial em protestos levanta alertas

O reconhecimento facial e a vigilância alimentada por IA não são ferramentas novas para as forças de segurança, mas a sua utilização em manifestações políticas acarreta riscos distintos. Quando as câmaras capturam e identificam os rostos de todos numa multidão, incluindo pessoas que não cometeram nenhum crime e estão simplesmente a exercer o seu direito de reunião, a tecnologia cria efetivamente um registo permanente da participação política.

Os defensores das liberdades civis que apoiam a petição argumentam que este tipo de monitorização em larga escala pode inibir a liberdade de expressão. As pessoas podem pensar duas vezes antes de comparecer a um protesto, a um comício ou até a uma reunião pública se acreditarem que a sua presença será registada, comparada com uma base de dados e potencialmente usada contra elas mais tarde. A petição enquadra isto como uma questão central de privacidade e constitucional, em vez de uma disputa técnica limitada sobre uma ferramenta policial.

O caso também destaca uma tensão mais ampla que se desenrola em democracias de todo o mundo: os governos têm cada vez mais acesso a tecnologia de identificação poderosa, enquanto os quadros legais que regem a sua utilização ficam muitas vezes para trás. A Índia, como muitos países, ainda não dispõe de legislação abrangente que trate especificamente de como o reconhecimento facial pode ser usado pela polícia durante manifestações públicas, o que é parte da razão pela qual os ativistas estão a recorrer aos tribunais para estabelecer limites.

O que o caso judicial pode significar no futuro

A decisão final do Tribunal Superior de Déli poderá criar um precedente importante, não só para a Índia, mas também para a forma como outros governos justificam ferramentas de vigilância semelhantes. Se o tribunal der razão a Ghosh e aos restantes peticionários, poderá obrigar a Polícia de Déli e outras agências de segurança a reduzir ou a reforçar a supervisão do uso de monitorização com IA em reuniões públicas. Se o tribunal decidir a favor do governo, poderá efetivamente validar amplos poderes de vigilância durante os protestos, uma decisão que outras jurisdições poderão invocar como justificação para os seus próprios programas de policiamento com IA.

É provável que qualquer um dos resultados seja acompanhado de perto por grupos internacionais de direitos digitais, dado que muitos governos estão a experimentar o reconhecimento facial, o policiamento preditivo e outros sistemas de monitorização com IA em espaços públicos.

O que isto significa para si

Embora este caso esteja a decorrer na Índia, as questões subjacentes são relevantes para qualquer pessoa preocupada com a privacidade em espaços públicos, em qualquer parte do mundo. Ferramentas de vigilância alimentadas por IA, como câmaras de reconhecimento facial, estão a ser adotadas por departamentos de polícia e governos municipais em todo o mundo, muitas vezes com um debate público limitado sobre onde devem ser traçados os limites.

Se participa em protestos, comícios ou outras manifestações públicas, vale a pena compreender que, em muitas jurisdições, a sua imagem pode ser legalmente capturada e, cada vez mais, comparada com bases de dados por meio de IA. Isto não significa que deva evitar participar na vida cívica, mas significa estar consciente da pegada digital que a atividade pública pode deixar e manter-se informado sobre as proteções que existem (ou não) onde vive.

Pontos principais

  • A ativista estudantil Aishe Ghosh apresentou uma petição ao Tribunal Superior de Déli para declarar inconstitucional a vigilância policial com IA sobre os manifestantes, na sequência de relatos de carrinhas de reconhecimento facial destacadas em manifestações recentes em Nova Déli.
  • O caso baseia-se numa ação judicial anterior que pedia ao tribunal que considerasse ilegal a vigilância massiva de manifestantes, e o seu desfecho poderá moldar a forma como as ferramentas de policiamento com IA são reguladas no futuro.
  • O reconhecimento facial em protestos levanta preocupações sobre a inibição da liberdade de expressão, uma vez que os participantes podem recear ser identificados e rastreados simplesmente por exercerem o seu direito de reunião.
  • A decisão será provavelmente acompanhada de perto por defensores dos direitos digitais em todo o mundo, pois os governos de todos os lados debatem como regular a vigilância com IA em espaços públicos.
  • Manter-se informado sobre as leis locais de vigilância e as proteções da privacidade digital é um passo prático que os indivíduos podem dar à medida que estas tecnologias se tornam mais difundidas.