Aishe Ghosh pozywa w związku z monitorowaniem protestów w Delhi za pomocą AI

Wyzwanie prawne dla nadzoru policyjnego opartego na AI

Aktywiści praw cyfrowych i liderzy studenccy w Indiach pozwali rząd premiera Narendry Modiego do sądu w związku z wykorzystaniem sztucznej inteligencji do monitorowania niedawnych demonstracji młodzieżowych w Nowym Delhi. Studentka-aktywistka Aishe Ghosh złożyła petycję do Sądu Najwyższego w Delhi, w której domaga się uznania masowego, opartego na AI nadzoru policji nad protestującymi za niekonstytucyjny.

Petycja koncentruje się na doniesieniach, że policja w Delhi wykorzystała technologię rozpoznawania twarzy, w tym specjalistyczne furgonetki nadzoru wyposażone w kamery AI, na miejscach demonstracji. Według relacji ze sprawy, technologia ta służyła do identyfikowania i śledzenia osób uczestniczących w jednym z największych protestów młodzieżowych, jakie miasto widziało w ostatnich latach. Pismo argumentuje, że skanowanie twarzy demonstrantów bez ich wiedzy i zgody oraz wykorzystywanie tych danych do tworzenia profili uczestników przekracza granicę prawną chroniącą obywateli przed nieuzasadnioną ingerencją państwa.

Sprawa ta bezpośrednio nawiązuje do wcześniejszego wniosku, opisanego w naszym raporcie na temat petycji kwestionującej nadzór AI nad protestującymi, która domagała się uznania masowego monitorowania demonstrantów za naruszenie konstytucyjnych zabezpieczeń. Razem te działania prawne stanowią jedno z najbardziej bezpośrednich wyzwań dla sposobu, w jaki indyjskie władze wykorzystują narzędzia AI do kontrolowania publicznego sprzeciwu.

Dlaczego rozpoznawanie twarzy na protestach wzbudza niepokój

Rozpoznawanie twarzy i nadzór oparty na AI nie są nowymi narzędziami dla organów ścigania, ale ich użycie podczas demonstracji politycznych niesie ze sobą wyjątkowe ryzyko. Gdy kamery rejestrują i identyfikują twarze wszystkich osób w tłumie, w tym tych, które nie popełniły żadnego przestępstwa i jedynie korzystają z prawa do zgromadzeń, technologia ta w praktyce tworzy trwały zapis aktywności politycznej.

Obrońcy swobód obywatelskich popierający petycję argumentują, że takie masowe monitorowanie może zniechęcać do swobodnego wyrażania opinii. Ludzie mogą zastanawiać się dwa razy, czy wziąć udział w proteście, wiecu, a nawet spotkaniu publicznym, jeśli będą podejrzewać, że ich obecność zostanie odnotowana, dopasowana do bazy danych i potencjalnie wykorzystana przeciwko nim w przyszłości. Petycja przedstawia to jako kluczową kwestię prywatności i konstytucyjności, a nie wąski spór techniczny o jedno narzędzie policyjne.

Sprawa ta podkreśla również szersze napięcie rozgrywające się w demokracjach na całym świecie: rządy mają coraz większy dostęp do potężnych technologii identyfikacji, podczas gdy ramy prawne regulujące ich stosowanie często pozostają daleko w tyle. Indie, podobnie jak wiele krajów, nie dysponują jeszcze kompleksowym ustawodawstwem odnoszącym się konkretnie do tego, jak policja może wykorzystywać rozpoznawanie twarzy podczas publicznych demonstracji, co jest częścią przyczyn, dla których aktywiści zwracają się do sądów, by ustalić granice.

Co sprawa sądowa może oznaczać w przyszłości

Ostateczne orzeczenie Sądu Najwyższego w Delhi może ustanowić ważny precedens, nie tylko dla Indii, ale i dla tego, jak inne rządy uzasadniają podobne narzędzia nadzoru. Jeśli sąd przyzna rację Ghosh i innym składającym petycję, może zmusić policję w Delhi i inne agencje egzekwowania prawa do ograniczenia lub wprowadzenia ściślejszego nadzoru nad wykorzystaniem monitorowania AI podczas zgromadzeń publicznych. Jeśli sąd orzeknie na korzyść rządu, może w praktyce zatwierdzić szerokie uprawnienia nadzorcze podczas protestów – decyzję, którą inne jurysdykcje mogłyby wskazywać jako uzasadnienie dla własnych programów policyjnych opartych na AI.

Niezależnie od wyniku, sprawie tej będą się bacznie przyglądać międzynarodowe grupy obrony praw cyfrowych, biorąc pod uwagę, jak wiele rządów eksperymentuje z rozpoznawaniem twarzy, predykcyjnym działaniem policji i innymi systemami monitorowania opartymi na AI w przestrzeni publicznej.

Co to oznacza dla Ciebie

Chociaż sprawa ta rozgrywa się w Indiach, leżące u jej podstaw kwestie są istotne dla każdego, kogo dotyczy prywatność w przestrzeni publicznej na całym świecie. Narzędzia nadzoru oparte na AI, takie jak kamery rozpoznawania twarzy, są wdrażane przez wydziały policji i samorządy na całym świecie, często bez szerokiej debaty publicznej na temat tego, gdzie powinny przebiegać granice.

Jeśli uczestniczysz w protestach, wiecach lub innych demonstracjach publicznych, warto wiedzieć, że w wielu jurysdykcjach Twój wizerunek może być legalnie rejestrowany i coraz częściej dopasowywany za pomocą AI do baz danych. Nie oznacza to, że powinieneś unikać udziału w życiu obywatelskim, ale oznacza to świadomość cyfrowego śladu, jaki może pozostawić działalność publiczna, oraz bycie na bieżąco z tym, jakie zabezpieczenia istnieją (lub nie istnieją) w miejscu Twojego zamieszkania.

Kluczowe wnioski

• Studentka-aktywistka Aishe Ghosh złożyła w Sądzie Najwyższym w Delhi petycję o uznanie opartego na AI nadzoru policyjnego nad protestującymi za niekonstytucyjny, w związku z doniesieniami o wykorzystaniu furgonetek z rozpoznawaniem twarzy na niedawnych demonstracjach w Nowym Delhi.
• Sprawa opiera się na wcześniejszym wyzwaniu prawnym domagającym się uznania masowego nadzoru nad protestującymi za bezprawny, a jej wynik może wpłynąć na przyszłe regulacje dotyczące narzędzi policyjnych opartych na AI.
• Rozpoznawanie twarzy na protestach budzi obawy o zniechęcanie do swobodnego wyrażania opinii, ponieważ uczestnicy mogą obawiać się identyfikacji i śledzenia tylko za korzystanie z prawa do zgromadzeń.
• Orzeczeniu będą się prawdopodobnie bacznie przyglądać obrońcy praw cyfrowych na całym świecie, ponieważ rządy wszędzie zmagają się z tym, jak regulować nadzór AI w przestrzeni publicznej.
• Bycie na bieżąco z lokalnymi przepisami dotyczącymi nadzoru i zabezpieczeniami prywatności cyfrowej to praktyczny krok, który mogą podjąć jednostki w miarę upowszechniania się tych technologii.