这篇文章的故事从英国警方使用的回溯式人脸识别系统说起。这个系统非常强大，可以将一张可疑的探测图像输入到庞大的警察国家数据库，并与超过1900万张拘留照片进行比对，试图找出匹配的结果。听起来好像很有前景，对吧？技术发展可以更高效地帮助警方抓捕罪犯，谁不愿意看见技术进步呢？但问题在于，这套系统的算法本身包含了种族歧视和性别歧视的偏见。英国国家物理实验室（NPL）的权威审查报告显示，这个系统对于黑人、亚裔和女性的误识别率远高于白人男性。文件中有一个数字特别刺眼——在特定的设置下，系统对黑人女性的误报率几乎是白人女性的100倍。没错，100倍。这意味着，黑人女性仅仅因为站在镜头前，就有可能被算法错误地标记为嫌疑人，而这个风险是白人男性的几倍之多。
面对这一铁证，英国全国警察局长委员会（NPCC）也意识到了问题的严重性。他们在2024年9月收到了这份报告，并立即下令提高系统的潜在匹配置信阈值，相当于给系统设置了一个安全闸门。这意味着，系统需要更高的确认度才能提供匹配结果，从而显著减少偏见带来的影响。听起来这个公平版会解决问题，可它试行了多久？仅仅一个月。一个月之后，警察高层就无法再接受了。原因很简单——公平是有代价的。提高阈值之后，系统能给出的潜在匹配结果的比例从56%骤降至14%。全国各地的警队开始抱怨：线索减少了！、以前有效的手段现在几乎没有效果！ NPCC的文件中写到，系统的行动效能至关重要，几乎是为撤销公平设定的借口。因此，在效率压力下，这个原本保护少数族裔和女性权益的安全闸门被强行撤掉，系统恢复到原来的状态——一个高效但充满偏见的版本。
这就是我所说的危险先例。当局明知这种技术会导致特定群体受到系统性的偏见和权利侵犯，却为了追求办案效率选择忽视这些问题。便利性不是可以凌驾于基本人权之上的理由，而算法也不是万能的钥匙。英国警务部长莎拉·琼斯曾将这套技术称为自DNA比对技术问世以来的最大突破，听起来似乎很令人振奋，但我觉得有必要冷静一下。DNA是生物学的铁律，是一种几乎不出错的身份标识。而算法，根本上是基于历史数据的概率游戏。换句话说，这套系统所用的训练数据，正是过去被警方拘留的照片。如果历史上显示，黑人和亚裔群体的拘留照片比例过高，那么算法学习到的先验知识就是：深色皮肤的人更像嫌疑人。这并不是技术中立，而是权力结构通过技术的共振放大了偏见。
曾担任伦敦警察厅独立审查员的彼得·福西教授，精准地指出了问题的根源：面部识别技术是否只有在用户默许种族和性别偏见的前提下，才有实用价值？他警告说：便利性不能凌驾于基本权利之上，这样的主张很可能无法经得起法律的严格审查。警方的辩解听起来似乎没问题：他们强调，每一次算法匹配都需要经过训练有素的警员仔细核查，且不会采取任何进一步的行动。警方说这是在公众安全与公民权利之间找到了正确的平衡。但是，大家都知道，在实际操作中，警察面临着巨大的时间压力和破案任务。当系统在短短几毫秒内就给出成千上万条潜在匹配的结果时，警员的确认性偏误就被无限放大。他们会下意识地倾向于相信系统的结果，实际的核查变成了形式化的勾选。更为担忧的是，这个系统的核心参数——决定公平与效率平衡的阈值标准，至今没有公开。现在，英国政府正在推动人脸识别技术的广泛应用，进行为期十周的公众咨询。
但我认为，这种公众咨询的意义值得质疑——让公众对一个看不见的闸门发表意见，没有底层参数，如何做出知情同意？这实际上意味着，公众被要求在信息极度不对称的情况下，接受一个可能侵犯其权利的黑箱技术。而且，为什么整个欧洲都对这种技术心生忧虑呢？我们可以把目光从英国转向整个欧洲大陆。英国脱欧后，虽然在数据和技术监管上与欧盟的《通用数据保护条例》（GDPR）存在差异，但作为西方的老牌民主国家，它在公共安全和技术应用上的每个决策，都可能成为其他国家的风向标。欧洲大陆一直非常谨慎地使用人脸识别技术。法国、荷兰等国更倾向于依靠指纹、DNA等确凿的生物学证据，来解决严重暴力案件。而德国要求，任何回溯式搜索请求都必须事先得到法官批准，他们把决定权牢牢掌握在司法机关手中，而不是交给执行效率至上的警队。
与此相比，英国则将决定权下放给了警队，让行动效能成为压倒一切的理由。如果英国大规模地、常态化地应用这种宁愿牺牲少数群体权利也要提高效率的系统，并成功在法律上站稳脚跟，其他欧洲国家政府很可能会跟进，引用英国的先例，推行类似的政策，并辩称这是打击犯罪和保护公众安全的必要措施。想象一下，如果警察能够以反恐或公共安全为名，无限制地扩大他们的历史照片仓库回溯搜索权限，谁能保证自己不会因一张十几年前的拘留照片，或者仅仅因为肤色或年龄与嫌疑人相似，就被算法错误地锁定，承受不必要的调查压力？权利的侵蚀往往从一次紧急例外开始，接着变成了日常的默认设置。
最后，我们必须关注那些被算法误伤的人。被错抓一次的代价无法量化。即使最终被无罪释放，你的拘留照片也已经被存储在警察国家数据库中，成为数据的一部分。数据就像滚雪球一样，少数人的误伤会慢慢积累成群体的阴影，不断地喂养下一代算法，进一步加深对特定群体的偏见。监督机构主席阿比姆博拉·约翰逊发出了严厉警告：这些披露再次证明，警方在反种族主义承诺上的行动，并没有真正转化为实际的做法。他建议，任何面部识别技术的应用都必须满足三个条件——公开数据集组成、第三方偏差测试、以及案件的闭环复盘。
然而，目前来看，英国政府的行动速度似乎过快了。警方的优先级已经非常明确：高效抓捕＞算法公平。英国在这一步走得相当冒险。整个欧洲都在关注这场效率与权利的拉锯战，最终将如何收场。一旦这一先例得以确立，技术在公共安全领域的角色就不再是中立的工具，而可能变成一种加剧不公的隐性特权。我希望，公众咨询能够带来真正的制衡，让技术走得慢一点，给那些被它遗忘和伤害的人留下一些时间。返回搜狐，查看更多
