Un desafío legal a la vigilancia policial impulsada por IA

Activistas de derechos digitales y líderes estudiantiles en India han llevado al gobierno del primer ministro Narendra Modi a los tribunales por su uso de inteligencia artificial para vigilar las recientes manifestaciones juveniles en Nueva Delhi. La activista estudiantil Aishe Ghosh presentó una petición ante el Tribunal Superior de Delhi solicitando que los jueces declaren inconstitucional el uso policial de vigilancia masiva con IA contra los manifestantes.

La petición se centra en informes de que la Policía de Delhi desplegó tecnología de reconocimiento facial, incluyendo furgonetas de vigilancia especializadas equipadas con cámaras de IA, en los lugares de las manifestaciones. Según los relatos del caso, esta tecnología se usó para identificar y rastrear a las personas que asistieron a lo que se ha descrito como una de las mayores protestas juveniles que la ciudad ha visto en los últimos años. La demanda argumenta que escanear los rostros de los manifestantes sin su conocimiento o consentimiento, y usar esos datos para crear perfiles de los asistentes, traspasa una línea legal que protege a los ciudadanos de la intrusión gubernamental injustificada.

Este caso se basa directamente en una demanda anterior cubierta en nuestro informe sobre la petición que impugna la vigilancia con IA de los manifestantes, que solicitó al tribunal que dictamine que la vigilancia masiva de los manifestantes viola las protecciones constitucionales. Juntas, estas acciones legales representan uno de los desafíos más directos hasta ahora a cómo las autoridades indias están utilizando herramientas de IA para vigilar la disidencia pública.

Por qué el reconocimiento facial en las protestas enciende las alarmas

El reconocimiento facial y la vigilancia con IA no son herramientas nuevas para las fuerzas del orden, pero su uso en manifestaciones políticas conlleva riesgos específicos. Cuando las cámaras capturan e identifican los rostros de todas las personas en una multitud, incluidas aquellas que no han cometido ningún delito y simplemente ejercen su derecho de reunión, la tecnología crea efectivamente un registro permanente de la participación política.

Los defensores de las libertades civiles que apoyan la petición argumentan que este tipo de vigilancia masiva puede inhibir la libertad de expresión. Las personas pueden pensárselo dos veces antes de asistir a una protesta, una concentración o incluso una reunión pública si creen que su presencia será registrada, comparada con una base de datos y potencialmente utilizada en su contra más adelante. La petición plantea esto como un problema fundamental de privacidad y constitucionalidad, más que como una disputa técnica limitada sobre una herramienta policial.

El caso también pone de relieve una tensión más amplia que se está dando en las democracias de todo el mundo: los gobiernos tienen cada vez más acceso a potentes tecnologías de identificación, mientras que los marcos legales que regulan su uso suelen estar muy rezagados. India, como muchos países, aún no cuenta con una legislación integral que aborde específicamente cómo la policía puede utilizar el reconocimiento facial durante las manifestaciones públicas, razón por la cual los activistas están recurriendo a los tribunales para establecer límites.

Lo que el caso judicial podría significar en el futuro

El fallo final del Tribunal Superior de Delhi podría sentar un precedente importante, no solo para India sino también para la forma en que otros gobiernos justifican herramientas de vigilancia similares. Si el tribunal falla a favor de Ghosh y los demás peticionarios, podría obligar a la Policía de Delhi y a otras agencias del orden a reducir o someter a una supervisión más estricta su uso de la vigilancia con IA en reuniones públicas. Si el tribunal falla a favor del gobierno, podría validar efectivamente amplios poderes de vigilancia durante las protestas, una decisión que otras jurisdicciones podrían señalar como justificación para sus propios programas policiales de IA.

Cualquiera de los dos resultados será probablemente observado de cerca por grupos de derechos digitales a nivel internacional, dado el gran número de gobiernos que están experimentando con reconocimiento facial, vigilancia predictiva y otros sistemas de monitoreo basados en IA en espacios públicos.

Lo que esto significa para ti

Aunque este caso se está desarrollando en la India, las cuestiones de fondo son relevantes para cualquier persona preocupada por la privacidad en los espacios públicos en cualquier parte del mundo. Las herramientas de vigilancia impulsadas por IA, como las cámaras de reconocimiento facial, están siendo adoptadas por departamentos de policía y gobiernos municipales en todo el mundo, a menudo con un debate público limitado sobre dónde deben trazarse los límites.

Si asistes a protestas, concentraciones u otras manifestaciones públicas, vale la pena entender que en muchas jurisdicciones tu imagen puede ser capturada legalmente y, cada vez más, comparada con bases de datos mediante IA. Esto no significa que debas evitar participar en la vida cívica, pero sí implica ser consciente de la huella digital que la actividad pública puede dejar, y mantenerse informado sobre qué protecciones existen (o no) en tu lugar de residencia.

Puntos clave

  • La activista estudiantil Aishe Ghosh ha solicitado al Tribunal Superior de Delhi que declare inconstitucional la vigilancia policial con IA de los manifestantes, tras los informes de furgonetas de reconocimiento facial desplegadas en las recientes protestas en Nueva Delhi.
  • El caso se basa en un desafío legal previo que pedía al tribunal que declare ilegal la vigilancia masiva de manifestantes, y su resultado podría influir en cómo se regulen en el futuro las herramientas de vigilancia policial con IA.
  • El reconocimiento facial en las protestas suscita preocupación por el efecto disuasorio sobre la libertad de expresión, ya que los asistentes pueden temer ser identificados y rastreados simplemente por ejercer su derecho de reunión.
  • Es probable que el fallo sea seguido de cerca por defensores de los derechos digitales en todo el mundo, mientras los gobiernos de todas partes se enfrentan a cómo regular la vigilancia con IA en espacios públicos.
  • Mantenerse informado sobre las leyes locales de vigilancia y las protecciones de privacidad digital es un paso práctico que las personas pueden tomar a medida que estas tecnologías se generalizan.