Pravni izazov policijskom nadzoru potpomognutom umjetnom inteligencijom
Aktivisti za digitalna prava i studentski čelnici u Indiji izveli su vladu premijera Narendre Modija pred sud zbog korištenja umjetne inteligencije za praćenje nedavnih omladinskih demonstracija u New Delhiju. Studentska aktivistica Aishe Ghosh podnijela je peticiju Visokom sudu u Delhiju tražeći od sudaca da proglase masovni policijski nadzor prosvjednika potpomognut umjetnom inteligencijom neustavnim.
Peticija se usredotočuje na izvješća da je policija Delhija koristila tehnologiju za prepoznavanje lica, uključujući specijalizirane nadzorne kombije opremljene AI kamerama, na mjestima demonstracija. Prema navodima iz slučaja, ova je tehnologija korištena za identifikaciju i praćenje pojedinaca koji su prisustvovali onome što je opisano kao jedan od najvećih omladinskih prosvjeda koje je grad vidio posljednjih godina. U podnesku se tvrdi da skeniranje lica prosvjednika bez njihova znanja ili pristanka, te korištenje tih podataka za izradu profila onih koji su prisustvovali, prelazi pravnu granicu koja štiti građane od neopravdanog upletanja vlasti.
Ovaj se slučaj izravno nadovezuje na raniji podnesak obrađen u našem izvještaju o peticiji koja osporava AI nadzor prosvjednika, u kojoj se od suda tražilo da presudi da masovno praćenje demonstranata krši ustavnu zaštitu. Zajedno, ove pravne akcije predstavljaju jedan od najizravnijih izazova do sada načinu na koji indijske vlasti koriste AI alate za nadzor nad javnim nezadovoljstvom.
Zašto prepoznavanje lica na prosvjedima izaziva uzbunu
Prepoznavanje lica i nadzor potpomognut umjetnom inteligencijom nisu novi alati za policiju, ali njihova upotreba na političkim demonstracijama nosi specifične rizike. Kada kamere snimaju i identificiraju lica svih u masi, uključujući ljude koji nisu počinili nikakav zločin i jednostavno ostvaruju svoje pravo na okupljanje, tehnologija zapravo stvara trajni zapis političkog sudjelovanja.
Zagovornici građanskih sloboda koji podupiru peticiju tvrde da ovakva vrsta mrežnog nadzora može ugušiti slobodno izražavanje. Ljudi bi mogli dvaput razmisliti prije nego što odu na prosvjed, skup ili čak javni sastanak ako vjeruju da će njihova prisutnost biti zabilježena, uspoređena s bazom podataka i potencijalno korištena protiv njih kasnije. Peticija to postavlja kao temeljno pitanje privatnosti i ustavnosti, a ne kao uski tehnički spor o jednom policijskom alatu.
Slučaj također naglašava širu napetost koja se odvija u demokracijama diljem svijeta: vlade sve više imaju pristup moćnoj tehnologiji za identifikaciju, dok pravni okviri koji reguliraju njezinu upotrebu često znatno zaostaju. Indija, kao i mnoge zemlje, još nema sveobuhvatno zakonodavstvo koje bi posebno reguliralo način na koji policija može koristiti prepoznavanje lica tijekom javnih okupljanja, što je dio razloga zašto se aktivisti obraćaju sudovima kako bi se uspostavile granice.
Što bi sudski slučaj mogao značiti za budućnost
Konačna presuda Visokog suda u Delhiju mogla bi postaviti važan presedan, ne samo za Indiju već i za način na koji druge vlade opravdavaju slične alate za nadzor. Ako sud presudi u korist Ghosh i njezinih kolega podnositelja peticije, to bi moglo prisiliti policiju Delhija i druge agencije za provođenje zakona da smanje ili uvedu stroži nadzor nad svojim korištenjem AI praćenja na javnim okupljanjima. Ako sud presudi u korist vlade, to bi moglo zapravo potvrditi široke ovlasti nadzora tijekom prosvjeda, odluku na koju bi se druge jurisdikcije mogle pozivati kao na opravdanje za vlastite programe AI policijskog rada.
Svaki će ishod vjerojatno pomno pratiti međunarodne grupe za digitalna prava, s obzirom na to koliko vlada eksperimentira s prepoznavanjem lica, prediktivnim policijskim radom i drugim sustavima nadzora vođenim umjetnom inteligencijom u javnim prostorima.
Što ovo znači za vas
Iako se ovaj slučaj odvija u Indiji, temeljni problemi relevantni su za svakoga tko je zabrinut za privatnost u javnim prostorima bilo gdje u svijetu. Alati za nadzor potpomognuti umjetnom inteligencijom, poput kamera za prepoznavanje lica, sve više usvajaju policijske uprave i gradske vlasti diljem svijeta, često uz ograničenu javnu raspravu o tome gdje bi se granice trebale povući.
Ako prisustvujete prosvjedima, skupovima ili drugim javnim demonstracijama, vrijedno je razumjeti da u mnogim jurisdikcijama vaša slika može biti legalno snimljena i, sve češće, uspoređena s bazama podataka pomoću umjetne inteligencije. To ne znači da biste trebali izbjegavati sudjelovanje u građanskom životu, ali znači da trebate biti svjesni digitalnog traga koji javne aktivnosti mogu ostaviti za sobom i biti informirani o tome kakva zaštita postoji (ili ne postoji) ondje gdje živite.
Ključni zaključci
- Studentska aktivistica Aishe Ghosh podnijela je peticiju Visokom sudu u Delhiju tražeći da se policijski nadzor prosvjednika potpomognut umjetnom inteligencijom proglasi neustavnim, nakon izvješća o kombijima za prepoznavanje lica raspoređenima na nedavnim demonstracijama u New Delhiju.
- Slučaj se nadovezuje na raniji pravni izazov kojim se od suda tražilo da masovni nadzor prosvjednika proglasi nezakonitim, a njegov ishod mogao bi oblikovati način na koji će se AI policijski alati regulirati u budućnosti.
- Prepoznavanje lica na prosvjedima izaziva zabrinutost zbog gušenja slobodnog izražavanja, jer se sudionici mogu bojati da će biti identificirani i praćeni samo zato što ostvaruju svoje pravo na okupljanje.
- Presudu će vjerojatno pomno pratiti zagovornici digitalnih prava diljem svijeta, dok se vlade posvuda bore s time kako regulirati AI nadzor u javnim prostorima.
- Informiranje o lokalnim zakonima o nadzoru i zaštiti digitalne privatnosti jedan je od praktičnih koraka koje pojedinci mogu poduzeti kako te tehnologije postaju sve raširenije.
