Правно предизвикателство срещу полицейското наблюдение с изкуствен интелект

Активисти за цифрови права и студентски лидери в Индия дадоха на съд правителството на премиера Нарендра Моди заради използването на изкуствен интелект за наблюдение на неотдавнашни младежки демонстрации в Ню Делхи. Студентската активистка Айше Гош подаде петиция до Висшия съд на Делхи с искане съдиите да обявят за противоконституционно използването на масово, задвижвано от ИИ наблюдение срещу протестиращи.

Петицията се основава на съобщения, че полицията в Делхи е използвала технология за лицево разпознаване, включително специализирани микробуси за наблюдение, оборудвани с ИИ камери, на местата на демонстрациите. Според описания на случая тази технология е била използвана за идентифициране и проследяване на лица, присъстващи на протест, описан като един от най-големите младежки протести, виждани в града през последните години. В документа се твърди, че сканирането на лицата на демонстрантите без тяхното знание или съгласие и използването на тези данни за изграждане на профили на присъстващите преминава законовата граница, защитаваща гражданите от неоправдана правителствена намеса.

Този случай пряко надгражда по-ранна жалба, разгледана в нашия репортаж за петицията, оспорваща наблюдение с изкуствен интелект на протестиращи, която поиска от съда да постанови, че масовото наблюдение на демонстранти нарушава конституционните защити. Заедно тези правни действия представляват едно от най-преките предизвикателства досега за това как индийските власти използват ИИ инструменти за полицейски контрол на общественото недоволство.

Защо лицевото разпознаване на протести буди тревога

Лицевото разпознаване и наблюдението с изкуствен интелект не са нови инструменти за правоприлагащите органи, но използването им по време на политически демонстрации носи специфични рискове. Когато камерите заснемат и идентифицират лицата на всички в тълпата, включително хора, които не са извършили престъпление и просто упражняват правото си на събрание, технологията на практика създава постоянен запис на политическото участие.

Гражданските защитници, които подкрепят петицията, твърдят, че този вид масово наблюдение може да смрази свободното изразяване. Хората може да се поколебаят дали да присъстват на протест, митинг или дори на обществена среща, ако вярват, че присъствието им ще бъде регистрирано, сравнено с база данни и потенциално използвано срещу тях по-късно. Петицията представя това като основен проблем на неприкосновеността и конституционните права, а не като тесен технически спор за един полицейски инструмент.

Случаят също така подчертава по-широко напрежение, което се разиграва в демокрациите по света: правителствата все повече имат достъп до мощна идентификационна технология, докато правните рамки, уреждащи използването ѝ, често изостават значително. Индия, подобно на много страни, все още няма всеобхватно законодателство, което конкретно да урежда как лицевото разпознаване може да се използва от полицията по време на обществени демонстрации, което е част от причината активистите да се обръщат към съдилищата, за да установят граници.

Какво може да означава съдебното дело за в бъдеще

Евентуалното решение на Висшия съд на Делхи може да създаде важен прецедент, не само за Индия, но и за начина, по който други правителства обосновават подобни инструменти за наблюдение. Ако съдът се произнесе в полза на Гош и останалите вносители на петицията, това може да принуди полицията в Делхи и други правоприлагащи агенции да ограничат или да добавят по-строг надзор върху използването на ИИ наблюдение на обществени събирания. Ако съдът се произнесе в полза на правителството, това може на практика да узакони широки правомощия за наблюдение по време на протести – решение, което други юрисдикции биха могли да използват като оправдание за собствените си програми за полицейска дейност с ИИ.

Какъвто и да е резултатът, той вероятно ще бъде внимателно наблюдаван от международните групи за цифрови права, предвид колко много правителства експериментират с лицево разпознаване, прогнозна полицейска дейност и други системи за наблюдение, задвижвани от ИИ, в обществените пространства.

Какво означава това за вас

Макар този случай да се развива в Индия, залегналите въпроси са от значение за всеки, който се тревожи за неприкосновеността на личния живот в обществените пространства навсякъде по света. Инструменти за наблюдение с изкуствен интелект, като камери за лицево разпознаване, се внедряват от полицейски управления и общински власти по целия свят, често с ограничен обществен дебат за това къде трябва да бъдат поставени границите.

Ако присъствате на протести, митинги или други обществени демонстрации, полезно е да разберете, че в много юрисдикции вашето изображение може законно да бъде заснемано и все по-често – сравнявано с бази данни с помощта на ИИ. Това не означава, че трябва да избягвате участие в гражданския живот, но означава да сте наясно с цифровата следа, която обществената дейност може да остави след себе си, и да сте информирани какви защити съществуват (или не) там, където живеете.

Основни изводи

  • Студентската активистка Айше Гош подаде петиция до Висшия съд на Делхи да обяви за противоконституционно полицейското наблюдение на протестиращи с изкуствен интелект, след съобщения за микробуси за лицево разпознаване, разположени на неотдавнашни демонстрации в Ню Делхи.
  • Случаят надгражда по-ранно правно предизвикателство с искане съдът да обяви масовото наблюдение на протестиращи за незаконно и изходът му може да оформи как инструментите за полицейска дейност с ИИ ще бъдат регулирани занапред.
  • Лицевото разпознаване на протести поражда опасения за смразяване на свободното изразяване, тъй като участниците може да се страхуват, че ще бъдат идентифицирани и проследени само защото упражняват правото си на събрание.
  • Решението вероятно ще бъде наблюдавано отблизо от защитници на цифровите права по света, тъй като правителствата навсякъде се борят с въпроса как да регулират наблюдението с ИИ в обществените пространства.
  • Да бъдете информирани за местните закони за наблюдение и защитите на цифровата неприкосновеност е една практическа стъпка, която хората могат да предприемат, докато тези технологии стават все по-разпространени.