算法解雇的创纪录罚款
荷兰数据保护局（AP）根据路透社审查的一份文件，决定对Uber处以8.25亿欧元（约合9.66亿美元）的罚款。该处罚源于Uber通过自动化系统停用司机账户的做法，监管机构称这一做法违反了欧洲数据保护规则。基于内部文件的这份路透社报道，标志着欧盟《通用数据保护条例》（GDPR）下有记录以来最大额罚款之一，并将目光聚焦于一项规模空前的GDPR自动化决策罚款。
此案的核心是零工经济从业人员一个熟悉的抱怨：司机发现自己的账户被暂停或终止，却几乎得不到解释，似乎是算法而非人工审核触发了这一结果。当一个人的生计依赖于一款应用程序时，自动化停用更像是一个无人能质疑的系统将你抹除，而非一项商业决策。
GDPR第22条如何限制自动化决策
GDPR包含针对“完全基于自动化处理”所做决定的特定保护措施，当这些决定对个人产生法律效力或类似的重大影响时。失去对一个提供收入的平台的访问权限显然属于重大影响。在此框架下，公司通常需要有合法的依据来依赖完全自动化的决策，并且必须为受影响个人提供获得人工审核、表达观点和质疑结果的途径。
这一规则之所以存在，是因为自动化系统可能是不可透明的。被算法停用的司机往往无法清楚了解为什么会发生、什么数据触发了这一结果，或如何申诉。监管机构日益将这种不透明性本身视为一个问题，而不仅仅是高效商业运营的副作用。荷兰AP对Uber的裁决表明，当一家公司在没有充分透明度和人工监督的情况下，对人们的账户或收入做出高风险自动化决策时，财务后果可能非常严重。
为什么此事超越网约车范畴
人们很容易将此解读为一个仅与零工经济相关的故事，但根本问题远远超出网约车应用。任何使用自动化系统对用户做出决定的平台，无论是标记欺诈账户、拒绝贷款申请、调整保险费率还是筛选求职者，都面临同样的基本要求：受这些决定影响的个人拥有权利，包括知道决定是自动化的权利以及质疑该决定的权利。
这笔罚款的规模向交通运输行业以外的公司发出了信号。随着越来越多服务依赖算法来管理从账户安全到客户资格的一切事务，监管机构似乎愿意强制执行“自动化不能免除问责”的理念。甚至可以说，它提高了门槛，因为一个无法自我解释的黑箱系统，比一个至少能阐明其推理过程的人工决策者更难辩护。
这对你意味着什么
如果你曾经有过应用账户被暂停、贷款申请被拒绝，或服务因一条含糊的自动化通知而受到限制，此案提醒你，你可能拥有比界面所显示的更多的救济途径。根据GDPR，欧盟境内的个人（通常也包括其数据由位于欧盟或服务欧盟的公司处理的个人）可以询问影响他们的决定是否为自动化，要求人工审核，并质疑结果。即使在欧盟以外，此类裁决带来的压力也往往会推动公司在全球范围内采取更清晰的政策和更好的申诉流程，因为为不同地区维持独立系统往往比在所有地方提高标准成本更高。
这也是思考你个人数据更广泛足迹的好时机。每个对你的行为进行画像的应用，无论是批准出行、授予信贷还是个性化广告，都在根据你提供的数据做出决定，而你对这些数据如何被权衡往往没有全面的可见性。
给读者的要点
如果你依赖零工平台、金融应用或任何使用自动化账户决策的服务，可以考虑几个具体步骤。定期查看你常用应用的隐私政策和服务条款，看它们是否披露了自动化决策。如果你曾被算法停用、拒绝或标记，直接要求公司进行人工审核，因为GDPR和其他司法管辖区的类似法律越来越要求提供此选项。同时，警惕你向那些做出重要决定的应用提供了多少个人数据，因为像这样创纪录的GDPR自动化决策罚款表明监管机构正在密切关注，即使个体用户往往未被给予完整的信息。
