一幅带有严肃意图的漫画

当一位讽刺漫画家将矛头指向超市里的人脸识别技术时,值得停下来思考这个笑话究竟在指向什么。《卫报》的“月球上的第一只狗”漫画专栏以“入店行窃犯罪浪潮?!到处安装人脸识别技术就能解决”为标题发表,嘲讽了澳大利亚零售巨头Coles和Woolworths试图仅仅通过在门店大量安装摄像头和生物识别软件来解决盗窃问题的想法。笑点之所以成立,是因为它植根于现实:人脸识别算法存在已被证实的偏见,而部署这些技术的公司本质上是在要求公众相信,他们不会滥用一种已知会出错的技術。

这正是这个故事的核心张力所在。零售商将人脸识别描述为一项简单的安全升级,一种在已知惯犯到达收银台之前就将其标记出来的方式。但这项技术并非在真空中运作。它会扫描、存储并匹配每一位走进门店的顾客的面部,无论这些人是否曾被怀疑做过任何事。

为什么人脸识别的偏见在零售业很重要

人脸识别系统在不同人群群体中的表现不均衡,这一点已有充分记录。多年来,研究和独立测试反复发现,错误率并非均等分布,这意味着某些购物者在统计学上比其他人更有可能被错误识别。在零售环境中,一次错误匹配不仅仅产生一条不便的通知,它可能意味着顾客被拦下、被盘问,或者被要求离开一家他们并未做错任何事的商店。

超市承诺将负责任地使用这项技术,但这并不能改变根本的准确性问题。企业承诺避免滥用是一种政策承诺,而不是技术修复。无论公司声称将如何谨慎地管理其使用,算法仍然会犯同样的统计错误。这正是这幅漫画所嘲笑的落差:一个有缺陷的工具与用以推销它的自信语言之间的不匹配。

数据存放在某处,这本身也是一种风险

除了错误识别之外,还有第二层往往被较少关注的担忧:生物识别数据被收集后去向何处。人脸识别系统需要存储面部模板、图像或匹配日志,而任何此类数据库都会成为攻击目标。零售商在传统上并不像银行或电信公司那样以安全为先,而更广泛的企业脆弱性模式值得铭记。关于英国制造商遭受网络攻击的报道发现,在过去一年中,很大一部分工业企业遭到入侵,而其中许多企业毫无准备,这提醒人们,传统科技以外的行业在面对其目前所持有数据的安全需求时,往往资源不足。一家存储数百万客户生物识别模板的连锁超市,无论是否具备与之匹配的基础设施,都在承担类似的暴露风险。

还有一个值得注意的模式:验证技术在推广时往往伴随着自信的承诺,而这些承诺在审视之下并不总能站得住脚。监管机构在其他领域也提出过类似的问题,比如当Ofcom对TikTok的年龄验证系统展开调查时,是因为担心这些检查并未如宣传的那样有效。零售业中的人脸识别遵循着类似的脚本:一项技术作为解决实际问题的方案被引入,附带关于负责任使用的保证,而准确性和监督问题在很大程度上仍未得到解决。

这对你意味着什么

如果你在一家使用人脸识别的商店购物,那么每次你走进去时,你的脸都会被扫描,并有可能与数据库进行匹配,无论你是否曾做过任何错事。你不太可能被告知具体使用的是哪套系统、你的数据会被保留多久,或者如果你被错误标记,有什么申诉途径。企业关于负责任使用的承诺并非可执行的保证,也不能解决技术本身固有的算法准确性问题。

这并不意味着每一次人脸识别的使用都是恶意的,也不意味着每位购物者都面临重大风险。但这确实意味着举证责任应该落在部署这项技术的公司身上,而不是落在走过它们摄像头的顾客身上。对任何处理敏感个人数据(无论是生物识别还是其他类型)的系统的信任,都应该以可验证的做法为支撑,而不是靠令人安心的声明。这个标准同样适用于任何处理你数据的服务,包括经独立审计的安全实践,而非未经核实的良好行为声明。

给购物者的建议

注意商店入口处关于使用监控或人脸识别技术的标志,不要犹豫,可以直接询问工作人员或企业客服收集了哪些数据以及保留多久。如果你认为自己被错误识别,要求正式复核,而不是接受当场做出的决定。更广泛地说,请记住,一家公司承诺负责任地使用人脸识别技术,并不等于证明该系统公平运作。随着这项技术扩展到更多日常空间,从超市到公共交通,一幅讽刺漫画提出的问题,值得与任何正式的政策辩论一样被认真对待。