如果你在过去几年里买了一部手机，那么你很可能再也不会输入密码了:你的脸不仅能解锁你的手机，还能解锁你的社交媒体、杜克MyChart门户网站，甚至你的银行应用程序。
人脸识别技术(FRT)的普及虽然非常方便，但并非没有风险。在过去的几年里，计算机科学教授辛西娅·鲁丁(Cynthia Rudin)一直是国土安全部和联邦调查局赞助的国家科学、工程和医学委员会的成员，该委员会专注于frt。
该委员会由来自不同专业的科学家和利益相关者组成，其任务是收集关于frt当前能力的信息，并讨论未来的可能性、社会影响以及加强监管和治理的必要性。他们的建议汇编在今年早些时候发表的一份共识研究报告中。
我们与Rudin聊了聊，他也是电子与计算机工程、统计科学与生物统计学和生物信息学教授，了解了一些共识的关键建议。
为了清晰和篇幅的考虑，这篇采访经过了编辑。
与人脸识别技术相关的一些最关键的伦理问题是什么?
隐私(即监视)是最关键的问题。不仅来自我们的政府，也来自私人行为者和其他政府。有些国家到处都有摄像头，监视着每个人。种族和其他偏见也是一个问题，不仅与技术本身有关，还与使用技术的方式有关。
有时候，我们似乎更多地听到了人脸识别的危险，而不是它的优势。这项技术有哪些好的、合乎道德的用途?
FRT对保持我们的边境安全非常有用，可以让人们更快地通过护照检查。它可以帮助快速识别高风险人群，例如，确保不良行为者不会进入音乐会或其他拥挤的场所，它还可以用于识别犯罪现场的线索。在很多案件中，FRT在解决犯罪方面发挥了重要作用，如果没有它，这些案件可能就无法解决。它对保护你的手机也非常有用。
共识的一些关键建议是什么?
第一个建议是政府立即采取行动，减轻FRT的潜在危害。有一些明显的建议，比如美国国家标准与技术研究所(NIST)继续其FRT评估平台，这将确保我们了解算法中的种族偏见等问题，并建立性能标准，以及甚至可以与FRT一起使用的图像质量(人们有时会将低质量的图像放入FRT系统，这是他们不应该做的)。
我们还建议对使用这项技术的执法人员进行培训，限制警察的监视和社区对FRT的监督。
有很多建议，所以我不能在这里列出所有建议，但我最自豪的是建议4，我坚持认为这很重要:“应该考虑新的立法来解决面部识别技术引起的公平、隐私和公民自由问题，限制私人和公共行为者对个人权利的伤害，并防止其被滥用。”
这将限制大型人脸数据库的收集和使用，除非用于非常特殊的目的。我认为这是极其重要的，我希望政府尽快采取行动。如果不是出于特定的安全目的，我不明白为什么有人可以在你身上使用FRT。没有广告商，没有骗子，没有人想要限制进入公共或半公共场所，如商店或音乐会场地，没有人想要冻结你的合法抗议权利，或者你获得医疗保健或去宗教机构的能力——他们都不应该有FRT。
尽管委员会普遍认为需要进一步监管和偶尔取缔frt，但在一些具体技术上并没有达成一致的建议。你能举一个委员会没有达成一致意见的人脸识别用法的例子吗?
我们对某人或某个实体如何获得使用FRT的认证以及培训材料的来源感到非常困惑。值得庆幸的是，我们确实包括了一个建议，指出立法者应该考虑认证，我们只是不确定谁来颁发。我个人认为需要创建一个新的实体(或多个)来找出认证过程。
这是有先例可循的——你不能只是开一家餐馆;你需要有食品安全认证。这与FRT应该是一样的，因为如果您搞砸了，它会影响很多人的安全，特别是如果您没有保护数据库免受黑客(或可能只是想出售它的人)的攻击。
你能举一个委员会认为应该禁止的用法的例子吗?
很明显，只要你想知道走在街上的人是谁，就能拿出手机识别出他们的身份，这不是对FRT的良性使用。因此，我们一致认为，一般的监控应该是非法的。我们也同意FRT不应该作为逮捕的唯一理由——它只是一个线索，需要更多的证据。
委员会的一项建议是，确保在使用人工智能时，总是有“一个人在循环中”，你强烈主张不要把人工智能视为一个黑匣子。将人类重新加入到等式中会有哪些挑战?
自动化系统会犯错，如果做出决定后没有追索权，那就不好了。然而，正如你提到的，与人类一起工作也很有挑战性。他们有自动化偏见(过度信任)，他们相信机器说的任何话。他们需要接受使用这项技术的培训。它们也比机器慢，也会出错。
你希望人们从这个共识中得到什么启示?
FRT是一项非常重要和有用的技术，我们未来离不开它，但它也非常危险。为了我们的安全，我们需要它。这是制止和威慑罪犯的关键。然而，如果我们在治理方面不对这项技术做任何事情，我们就可以和我们今天所知道的隐私说再见了。
如果摄像头很便宜，FRT也很便宜，那么对于任何人(我们的警察、私人演员、其他政府)来说，在我们的社区里安装摄像头就太容易了。想象一下，雇佣一名私家侦探——而且费用低廉——他掌握着整个城市里每个人的活动记录，包括你的。
我们希望它存在吗?想象一下，一个外国政府在纽约到处都装了摄像头。这可能已经存在了。想象一下，任何人进入犹太教堂或清真寺时都被拍摄下来，他们的名字也被公布在互联网上。我们想要那样吗?如果有人合法堕胎，他们的照片被送回他们的家乡，那里堕胎是非法的呢?
想象一下，如果我们允许面部识别技术扩散，证人保护计划将会发生什么——它完蛋了。所以，我们需要在它扩散之前控制住它。这就是政府监管的作用。
杜克大学提供 引用问答:安全的另一面是对隐私监管面部识别技术的攻击(2024年3月27日)检索自2024年3月28日https://techxplore.com/news/2024-03-qa-flip-side-safety-privacy.html本文档 作品受版权保护。除为私人学习或研究目的而进行的任何公平交易外，未经书面许可，不得转载任何部分。的有限公司 内容仅供参考之用。
