아이셰 고쉬, 델리 시위에서 AI 감시 소송 제기

AI 기반 경찰 감시에 대한 법적 도전

인도의 디지털 권리 운동가들과 학생 지도자들이 최근 뉴델리에서 열린 청년 시위를 인공지능으로 감시한 데 대해 나렌드라 모디 총리 정부를 법정에 세웠다. 학생 운동가 아이셰 고쉬는 델리 고등법원에 경찰의 시위대 대상 대규모 AI 감시가 위헌임을 선언해 달라는 탄원서를 제출했다.

이 탄원서는 델리 경찰이 시위 현장에서 얼굴 인식 기술과 AI 카메라가 장착된 특수 감시 밴을 배치했다는 보도에 초점을 맞추고 있다. 사건 관련 설명에 따르면, 이 기술은 최근 몇 년간 델리에서 가장 큰 청년 시위 중 하나로 묘사되는 집회에 참석한 개인들을 식별하고 추적하는 데 사용되었다. 탄원서는 시위대의 얼굴을 동의 없이 스캔하고, 그 데이터로 참석자 프로필을 구축하는 행위가 시민을 부당한 정부 침해로부터 보호하는 법적 경계를 넘는 것이라고 주장한다.

이번 소송은 시위자 AI 감시에 이의를 제기하는 탄원서에 관한 저희 보도에서 다룬 이전 소송을 직접적으로 기반으로 한다. 당시 탄원서는 시위자에 대한 대규모 감시가 헌법적 보호를 위반한다고 법원에 판결을 요청했다. 이 두 가지 법적 조치는 인도 당국이 공공의 반대 의견을 통제하기 위해 AI 도구를 사용하는 방식에 대한 가장 직접적인 도전 중 하나를 나타낸다.

시위에서 얼굴 인식 기술이 경종을 울리는 이유

얼굴 인식과 AI 기반 감시는 법 집행 기관에게 새로운 도구가 아니지만, 정치적 시위에서의 사용은 뚜렷한 위험을 동반한다. 카메라가 군중 속 모든 사람의 얼굴을 포착하고 식별할 때, 범죄를 저지르지 않고 단순히 집회의 권리를 행사하는 사람들을 포함하여, 이 기술은 효과적으로 정치 참여에 대한 영구적인 기록을 생성한다.

탄원을 지지하는 시민 자유 옹호자들은 이러한 전면적 감시가 자유로운 표현을 위축시킬 수 있다고 주장한다. 사람들은 자신의 존재가 기록되고, 데이터베이스와 대조되며, 나중에 자신에게 불리하게 사용될 수 있다고 생각하면 시위, 집회, 심지어 공개 회의에 참석하는 것을 다시 생각하게 될 수 있다. 탄원서는 이를 하나의 치안 도구에 대한 좁은 기술적 논쟁이 아니라 핵심적인 사생활 및 헌법적 문제로 규정한다.

이 사건은 또한 전 세계 민주주의 국가에서 펼쳐지고 있는 더 광범위한 긴장을 강조한다. 정부는 점점 더 강력한 식별 기술에 접근할 수 있게 되는 반면, 그 사용을 규율하는 법적 틀은 종종 크게 뒤처져 있다. 인도는 많은 국가들과 마찬가지로, 공공 시위 중 경찰이 얼굴 인식을 어떻게 배치할 수 있는지 구체적으로 다루는 포괄적인 법률이 아직 없다. 이것이 운동가들이 경계를 설정하기 위해 법원에 의지하는 이유 중 하나이다.

법원 판결이 향후 의미할 수 있는 것

델리 고등법원의 최종 판결은 인도뿐만 아니라 다른 정부들이 유사한 감시 도구를 정당화하는 방식에도 중요한 선례를 남길 수 있다. 법원이 고쉬와 공동 탄원인의 손을 들어준다면, 델리 경찰과 다른 법 집행 기관은 공공 집회에서 AI 감시 사용을 축소하거나 더 엄격한 감독을 추가해야 할 수도 있다. 법원이 정부에 유리하게 판결한다면, 시위 중 광범위한 감시 권한을 사실상 승인하는 것이며, 다른 관할권에서 자체 AI 치안 프로그램을 정당화하는 근거로 인용할 수 있는 결정이 될 수 있다.

어떤 결과든, 많은 정부들이 공공 장소에서 얼굴 인식, 예측 치안 및 기타 AI 기반 감시 시스템을 실험하고 있는 점을 고려할 때, 국제적인 디지털 권리 단체들이 이 판결을 주의 깊게 지켜볼 가능성이 높다.

이것이 당신에게 의미하는 것

이 소송은 인도에서 전개되고 있지만, 근본적인 문제는 전 세계 어디에서든 공공 장소에서의 사생활에 관심 있는 모든 사람과 관련이 있다. 얼굴 인식 카메라와 같은 AI 기반 감시 도구는 전 세계적으로 경찰서와 지방 정부에 의해 도입되고 있으며, 종종 경계선을 어디에 그어야 하는지에 대한 공개적인 논의가 제한적이다.

시위, 집회 또는 기타 공공 시위에 참석한다면, 많은 관할권에서 당신의 이미지가 합법적으로 포착될 수 있고, 점점 더 AI를 사용하여 데이터베이스와 대조될 수 있다는 점을 이해할 가치가 있다. 그렇다고 해서 시민 생활 참여를 피해야 한다는 의미는 아니지만, 공공 활동이 남길 수 있는 디지털 발자국을 인식하고, 거주 지역에 어떤 보호 장치가 있는지 (또는 없는지) 지속적으로 알아야 한다는 의미이다.

핵심 요점

• 학생 운동가 아이셰 고쉬는 최근 뉴델리 시위에 얼굴 인식 밴이 배치되었다는 보도 이후, 시위자에 대한 AI 기반 경찰 감시가 위헌임을 선언해 달라고 델리 고등법원에 탄원했다.
• 이 소송은 시위자에 대한 대규모 감시가 불법이라는 판결을 법원에 요청한 이전 법적 도전을 기반으로 하며, 그 결과는 앞으로 AI 치안 도구가 어떻게 규제되는지를 형성할 수 있다.
• 시위에서의 얼굴 인식은 참석자들이 단지 집회의 권리를 행사하는 것만으로도 식별되고 추적될 것을 두려워할 수 있기 때문에, 자유로운 표현의 위축에 대한 우려를 불러일으킨다.
• 이 판결은 전 세계 정부들이 공공 장소에서 AI 감시를 규제하는 방법과 씨름하고 있는 가운데 세계의 디지털 권리 옹호자들에 의해 주의 깊게 지켜볼 가능성이 높다.
• 지역 감시 법률과 디지털 사생활 보호 조치에 대한 정보를 지속적으로 파악하는 것은 이러한 기술이 더욱 확산됨에 따라 개인이 취할 수 있는 하나의 실용적인 조치이다.