대부분의 주민이 전혀 알지 못했던 실시간 안면 인식 시범운영

호주 최초로 평가되는 가운데, 서호주 경찰은 6월부터 퍼스와 프리맨틀 전역에 실시간 AI 안면 인식 카메라를 조용히 배치했다. 시범운영 단 일주일 만에 이 시스템은 13만 개 이상의 얼굴을 스캔했고, 33건의 경보를 발생시켰으며, 18건의 체포로 이어졌다. 경찰은 또한 이 기술이 해당 지역의 등록 성범죄자 21명을 식별하고 접촉하는 데 도움이 되었다고 밝혔다.

스캔 규모 자체도 주목할 만하지만, 가장 큰 논란을 불러온 것은 진행 방식이다. 해당 거리를 지나던 주민들은 자신이 스캔되고 있다는 사실을 통보받지 못했다. 안내 표지판 캠페인도, 공공 협의 기간도, 명확한 선택 거부(opt-out) 장치도 없었다. 많은 호주 시민이 이 프로그램에 대해 처음 알게 된 것은 경찰이나 지방정부의 고지가 아니라 사후 뉴스 보도를 통해서였다.

고지 부재가 중요한 이유

안면 인식 시스템은 공공장소에서 사람들의 이미지를 포착해 데이터베이스와 대조하는 방식으로 작동하며, 이 과정은 흔히 실시간으로 이루어진다. 이러한 과정이 공공 고지 없이 진행되면, 사람들은 어디에 갈지, 누구와 함께 있는 모습이 보일지, 자신의 이동이 어떻게 기록되고 교차 대조될지에 대해 정보에 기반한 선택을 할 수 없게 된다. 프라이버시 옹호 단체와 법률 전문가들은 이것이 감시 감독의 기본 원칙, 즉 사람들은 일반적으로 자신이 언제 어떻게 감시받는지 알아야 한다는 원칙을 훼손한다고 지적해 왔다. 특히 정부 기관에 의한 감시라면 더욱 그러하다.

이번 시범운영에서는 최소 한 건의 잘못된 식별이 확인되기도 했다. 이는 아무리 정교한 AI 시스템이라도 사람을 잘못 식별할 수 있으며, 그 결과가 불편한 수준에서 심각한 수준까지 이를 수 있음을 상기시킨다. 오인식 위험은 고르게 분포하지도 않는다. 안면 인식 도구는 특정 인구 집단에 대해 오류율이 더 높다는 기록이 잘 문서화되어 있어, 프라이버시 문제와 함께 형평성 우려도 제기된다.

서호주 경찰은 이 결과를 공공 안전 성과, 체포 실적, 범죄자 식별, 경보 발생 등의 측면에서 설명했다. 그러나 프라이버시 감시 단체들은 진정한 비용-편익 평가를 위해서는 시범운영 규칙에 대한 투명성이 필요하다고 주장한다. 영상과 대조 데이터가 얼마나 오래 보관되는지, 누가 접근할 수 있는지, 다른 기관과 공유되는지, 그리고 어떤 수사와도 관련이 없는 수만 명의 스캔된 사람들의 생체 데이터는 어떻게 되는지 등이 공개되어야 한다는 것이다.

생체 데이터 수집의 더 넓은 패턴

이번 시범운영은 고립된 사건이 아니다. 전 세계 정부와 민간 기업들은 치안 목적의 안면 인식, 공항의 생체 인증, 특정 콘텐츠나 서비스에 접근하기 전에 사용자의 나이를 추정하기 위해 얼굴을 스캔하는 연령 확인 시스템 등 생체 인증으로 점점 더 많이 전환하고 있다. 이러한 시스템 각각은 유사한 핵심 질문을 제기한다. 하나의 시스템이 얼마나 많은 생체 데이터를 수집하도록 허용되어야 하며, 그 데이터는 얼마나 오래 보관되어야 하는가? 이와는 다르지만 관련된 맥락에서 이러한 절충이 어떻게 전개되는지 궁금한 독자라면, 전 세계 연령 확인 법률이 이미 생체 스캔, 데이터 보관, 동의를 둘러싼 유사한 논쟁을 촉발하고 있으며, 기술의 도달 범위에 비해 대중의 인식이 훨씬 낮은 경우가 많다는 점을 살펴볼 수 있다.

서호주 경찰의 시범운영은 생체 감시가 정책 논쟁에서 실제 배치로 넘어갈 때 어떤 일이 벌어지는지를 보여준다는 점에서 유용한 사례 연구다. 이 기술은 많은 경우 의도한 대로 작동했지만, 명확한 공공 고지, 독립적인 감사 기록, 공식적인 선택 거부 수단의 부재는 감독보다 기술 역량이 얼마나 빠르게 앞서 나갈 수 있는지를 보여준다.

이것이 당신에게 의미하는 것

퍼스나 프리맨틀에 거주하거나 방문한 적이 있다면, 자신도 모르는 사이에 이미 스캔되었을 수 있다. 그리고 유사한 시범 프로그램이 다른 지역에서 검토되면서 같은 양상이 다른 도시로 확산될 수 있다. 호주 밖에서도 이번 사례는 공공장소 AI 안면 인식 시범운영이 어디로 향하고 있는지를 보여주는 예고편이다. 안전 통계로 정당화되는 조용한 도입, 그리고 프라이버시 보호 장치가 처음부터 내장되기보다 사후에 덧붙여지는 경우가 많은 방식이 그것이다.

일단 거주 지역에서 실시간 공공 안면 인식 시스템이 가동되면, 일반적으로 이를 거부할 수 없다. 바로 이 때문에 투명성과 공공 토론이 시스템 가동 전에 중요하며, 가동 후가 아니라 가동 전에 이루어져야 한다.

실천 가능한 핵심 사항

  • 지역 경찰이나 시의회가 현재 또는 계획 중인 안면 인식 시범운영에 대한 정보를 공개했는지 확인하고, 공공 피드백이나 협의 절차가 있는지 살펴보라.
  • 공공장소에 안면 인식이나 기타 생체 인식 도구가 제안될 때마다 명확한 데이터 보관 및 삭제 정책을 요구하는 목소리를 지지하라.
  • AI 감시 시스템이 시범 단계를 넘어 확대되기 전에 정확성과 편향에 대한 독립적인 감사를 요구하라.
  • 치안 등 한 가지 목적으로 수집된 생체 데이터가 나중에 다른 기관이나 민간 기업과 공유될 수 있는 방식에 대해 계속 정보를 파악하라.

더 많은 도시가 유사한 시스템을 시험하면서 AI 안면 인식 시범운영을 둘러싼 논의는 더욱 커질 수밖에 없다. 이러한 프로그램이 어떻게 배치되는지 계속 주시하고, 투명하지 않을 때는 투명성을 요구하는 것이 대중이 이 기술의 향후 사용 방향에 영향을 미칠 수 있는 가장 현실적인 방법 중 하나다.