심각한 메시지를 담은 만화

풍자 만화가가 슈퍼마켓의 안면인식 기술을 겨냥했을 때, 그 농담이 실제로 무엇을 가리키는지 잠시 멈추고 물어볼 가치가 있다. 가디언의 First Dog on the Moon 연재만화는 "좀도둑 범죄 급증?! 모든 곳에 안면인식 기술을 설치하면 해결될 것"이라는 제목으로 게재되었으며, 호주 유통 대기업 콜스와 울워스가 매장에 카메라와 생체인식 소프트웨어를 깔기만 하면 도난을 해결할 수 있다는 생각을 조롱한다. 이 풍자가 실제로 의미를 갖는 이유는 현실에 기반을 두고 있기 때문이다. 안면인식 알고리즘은 문서화된 편향을 가지고 있으며, 이를 도입하는 기업들은 오류를 범하는 것으로 알려진 기술을 남용하지 않을 것이라는 신뢰를 대중에게 사실상 요구하고 있다.

이것이 이 이야기의 핵심 긴장감이다. 유통업체들은 안면인식을 단순한 보안 업그레이드, 즉 등록 전에 알려진 범죄자를 식별하는 방법으로 규정한다. 그러나 이 기술은 진공 상태에서 작동하지 않는다. 문을 통과하는 모든 고객의 얼굴을 스캔하고, 저장하며, 대조한다. 고객이 어떤 혐의를 받은 적이 있든 없든 말이다.

유통업계에서 안면인식 편향이 중요한 이유

안면인식 시스템은 다양한 인구통계 집단에 걸쳐 고르지 못한 성능을 보인다는 잘 확립된 기록을 가지고 있다. 수년간의 연구와 독립적 테스트는 오류율이 동등하게 분포되지 않는다는 점을 반복적으로 발견했으며, 이는 통계적으로 일부 소비자가 다른 소비자보다 잘못 식별될 가능성이 더 높다는 것을 의미한다. 유통 환경에서 잘못된 매치는 단순히 불편한 알림만을 생성하지 않는다. 잘못된 행동을 하지 않은 고객이 매장에서 제지당하고, 심문을 받거나, 퇴장 요구를 받을 수 있다는 뜻이다.

슈퍼마켓이 이 기술을 책임감 있게 사용하겠다는 약속은 근본적인 정확성 문제를 바꾸지 않는다. 기업의 남용 방지 서약은 정책적 약속이지 기술적 해결책이 아니다. 알고리즘은 기업이 사용을 얼마나 신중하게 관리하겠다고 말하든 관계없이 동일한 통계적 오류를 범한다. 이것이 바로 만화가 조롱하는 바로 그 간극이다. 결함이 있는 도구와 이를 해결책으로 판매하는 데 사용되는 자신감 넘치는 언어 사이의 불일치 말이다.

데이터는 어딘가에 저장된다. 그것도 위험이다

잘못된 식별을 넘어, 종종 덜 주목받는 두 번째 우려 층이 있다. 수집된 생체인식 데이터가 어디로 가는가 하는 점이다. 안면인식 시스템은 얼굴 템플릿, 이미지 또는 매칭 기록의 저장을 필요로 하며, 그런 종류의 데이터베이스는 공격 대상이 된다. 유통업체는 전통적으로 은행이나 통신사처럼 보안 최우선 조직이 아니며, 기업의 취약성이라는 광범위한 패턴을 염두에 둘 가치가 있다. 사이버 공격에 피해를 입은 영국 제조업체에 대한 보도에 따르면 지난 1년간 상당수의 산업 기업이 침해를 당했으며 많은 기업이 대비를 갖추지 못한 상태였다. 이는 전통적 기술 분야 외부의 기업들이 현재 보유한 데이터의 보안 요구에 대해 자주 자원이 부족하다는 사실을 상기시킨다. 수백만 고객의 생체인식 템플릿을 저장하는 슈퍼마켓 체인은 그에 상응하는 인프라를 갖추고 있든 없든 비슷한 종류의 노출을 감수하고 있는 것이다.

또한 검증 기술이 항상 조사 결과를 견디지 못하는 자신감 있는 약속과 함께 출시되는 패턴도 주목할 만하다. 규제 기관들은 다른 곳에서도 유사한 의문을 제기한 바 있다. 예를 들어 Ofcom이 자해 콘텐츠 문제로 TikTok의 연령 확인 시스템에 대한 조사를 시작한 경우가 그렇다. 유통업계의 안면인식도 비슷한 시나리오를 따른다. 실제 문제에 대한 해결책으로 기술이 도입되고, 책임감 있는 사용에 대한 확신이 함께 제공되지만, 정확성과 감독 문제는 대체로 해결되지 않은 채 남아 있다.

이것이 당신에게 의미하는 바

안면인식을 사용하는 매장에서 쇼핑한다면, 당신이 잘못된 일을 한 적이 있든 없든 매장에 들어갈 때마다 당신의 얼굴이 스캔되고 잠재적으로 데이터베이스와 대조되고 있다는 뜻이다. 어떤 특정 시스템이 사용 중인지, 데이터가 얼마나 오래 보관되는지, 잘못 식별되었을 때 어떤 구제 수단이 있는지 알려받을 가능성은 낮다. 책임감 있는 사용에 대한 기업의 약속은 집행 가능한 보장이 아니며, 기술 자체에 내재된 알고리즘 정확성 문제를 해결하지도 않는다.

이것이 안면인식의 모든 사용이 악의적이거나 모든 소비자가 실질적인 위험에 처해 있다는 것을 의미하지는 않는다. 그러나 이는 입증 책임이 기술을 도입하는 기업에 있어야 하며, 카메라를 지나치는 고객에게 있어서는 안 된다는 것을 의미한다. 생체인식이든 아니든 민감한 개인 데이터를 다루는 모든 시스템에 대한 신뢰는 안심시키는 말이 아닌 검증 가능한 관행으로 뒷받침되어야 한다. 이는 독립적으로 감사된 보안 관행처럼 검증되지 않은 선의의 주장보다 실제 증거에 기반해야 한다는 기준을 당신의 데이터를 다루는 모든 서비스에 적용할 가치가 있다는 뜻이다.

소비자를 위한 핵심 정리

매장 입구에서 감시 또는 안면인식 기술 사용을 알리는 표지판에 주의를 기울이고, 어떤 데이터가 수집되고 얼마나 오래 보관되는지 직원이나 기업 고객 서비스에 주저하지 말고 문의하라. 잘못 식별되었다고 생각되면 현장 결정을 받아들이지 말고 공식 검토를 요청하라. 그리고 더 널리, 기업이 안면인식 기술을 책임감 있게 사용하겠다는 약속은 시스템이 공정하게 작동한다는 증명과 같지 않다는 점을 명심하라. 이 기술이 슈퍼마켓에서 대중교통에 이르기까지 더 많은 일상 공간으로 확산됨에 따라, 풍자 만화가 제기한 질문은 공식적인 정책 논쟁만큼이나 진지하게 받아들일 가치가 있다.