面部识别技术是迄今为止发明的最危险的监视机制

徐大白
1个月前 阅读 211 点赞 1

导语:鉴于对隐私和公民自由的严重威胁,应放弃有针对性的监管,以彻底禁止。


特洛伊人会喜欢面部识别技术

一旦面部识别技术的全部潜力被释放出来,人们很容易接受一种外表上令人信服但最终是虚幻的观点,认为未来会是什么样子。从这个角度来看,你将永远不会遇到陌生人,大惊小怪的密码,或担心忘记钱包。你可以在几秒钟内整理好你的整个视频和图片收藏,甚至立即找到孩子们在夏令营跑步的照片。更重要的是,失踪人员将被找到,学校将变得安全,坏人将躲在阴影下或桌子底下无法逃脱。

完全方便,绝对正义,礼拜日的教堂将门庭若市。最终,我们的技术乌托邦将会实现。

我们相信面部识别技术是迄今为止发明的最危险的监视机制。

受这个愿景的诱惑,人们将继续邀请面部识别技术进入他们的家园,进入他们的设备,允许它在他们生活的更多方面扮演中心角色。这就是陷阱是如何产生的,不幸的事实被揭露了:面部识别技术是一个伪装成礼物的威胁。它是一种不可抗拒的压迫工具,非常适合政府展示空前的威权控制以及彻底清除隐私的机器。

我们应该把这个特洛伊木马放在城外。


当前的争论

ACLU与将近70个其他的民权组织一起,已经要求亚马逊停止向政府出售面部识别技术,并进一步呼吁国会暂停政府使用面部识别技术。媒体权衡之下也表达了焦虑的呼声。在《华盛顿邮报》上,编辑委员会宣布:“国会应该马上介入。”甚至一些国会议员最近也被亚马逊的面部识别软件误认了,他们中的许多人都对此感到担忧。

我们也被卷入其中,和一群其他学者一起,我们要求亚马逊改变它的方式。

对此,微软公司总裁布拉德·史密斯呼吁美国政府规范面部识别技术,“这是政府为规范脸部识别技术的正确使用而采取的一项举措,首先由两党和专家委员会通报,”他在微软的博客上写道。

企业领导力很重要,对面部识别技术施加限制的规定会有帮助。但部分保护和“明确的指导方针”永远都不够。无论立法可以提供什么帮助,在面部扫描技术变得更便宜、更容易使用之前,这些保护措施很可能不会获得通过。实际上,史密斯似乎是在制造这一点,尽管是无意的。他强调“微软在2005年呼吁美国制定国家隐私立法。”嗯,现在是2018年,国会还没有通过任何法案。

如果人脸识别技术继续得到进一步发展和应用,将会建立一个强大的基础设施,而我们将坚持下去。历史表明,高度宣传的成功,对未能加强安全的恐惧,以及对权力的完全陶醉,将引诱过度,激励任务蔓延,并最终导致系统性滥用。

人类繁荣的未来取决于面部识别技术在系统变得过于根深蒂固之前是否被禁止。

 

为什么禁令是必要的

呼吁禁止面部识别系统,完全停止,是极端的。像Judith Donath这样聪明的学者认为这是错误的做法。她建议采取一种技术上更为中立的策略,围绕着更大的问题展开,这些问题确定了应该禁止的具体活动,应该避免的危害,以及我们正在努力保护的价值观、权利和情况,对于几乎所有其他数字技术。我们同意这种方法。

但我们相信面部识别技术是迄今为止发明的最危险的监视机制。这是本已危险的监控基础设施中缺失的部分,因为基础设施对政府和私营部门都有利。当技术变得如此危险,损害与利益比率变得如此不平衡时,绝对禁令值得考虑。法律已经禁止某些特定的危险数字技术,比如间谍软件。面部识别技术更加危险。值得一提的是,在健全的、整体的、基于价值的、基本上是技术中立的监管框架之上,还有一个具体的禁令。这样一个分层的系统将有助于避免立法者总是追逐技术监管的趋势。

面部识别系统进行的监视本质上是压迫性的。仅仅存在面部识别系统,通常是看不见的,就损害了公民自由,因为人们如果怀疑自己被监视,就会采取不同的行动。即使那些承诺采取严格保护程序的立法,也不会通过抑制表达和宗教行为来阻止寒冷阻碍人类繁荣的重要机会。


面部识别技术也能引起大量其他虐待和腐蚀行为:

1.对有色人种和其他少数民族和弱势群体的影响不成比例。

2.正当程序有害,这可能包括将理想从“假定无罪”转变为“尚未被判有罪的人”。

3.促进骚扰和暴力。

4.剥夺基本权利和机会,如保护“不受政府任意跟踪某人的行动、习惯、关系、利益和思想的影响”。

5.无情、完美执法的窒息性约束。

6.对实际晦涩的规范化消除。

7.监视资本主义的放大。


正如面部识别学者Clare Garvie正确地观察到的那样,技术错误会带来致命的后果:

如果这样的系统出错,会发生什么?基于视频的监视系统的错误可能意味着无辜的人被跟踪、调查,甚至可能被逮捕并被指控犯有他或她没有犯下的罪行。身体扫描仪上的面部扫描监视系统的错误可能是致命的。一名警官警觉到对公共安全或自己的潜在威胁,必须立即决定是否拔出他的武器。假警报把无辜者放在十字准线中。

 

其中有两份报告详尽地详述了这些问题。电子前沿基金会的高级职员律师詹妮弗·林奇写了一篇价值连城的论文《面对面:法律强制使用人脸识别技术》,乔治敦隐私与电信中心还有一篇必不可少的研究《永久排队》(Clare Garvie,Alvaro Bedoya和Jonathan Frankle合著)。我们的观点深深地被这种严谨的学识所了解,我们会敦促任何对这个话题感兴趣的人仔细阅读。

尽管我们的同事已经记录了问题,但你可能怀疑是否需要禁令。毕竟,其他技术也带来了类似的威胁:地理位置数据、社会媒体数据、搜索历史数据,以及我们大型数据跟踪的许多其他组件,这些数据本身可以高度揭示,并且可以在总体上进行彻底的灵魂搜索。然而,面部识别仍然是唯一危险的。即使在生物特征,如指纹,DNA样本,虹膜扫描,面部识别仍然是不一样的。


使用脸谱的系统有五个明显的特点,证明它们是禁止的。

首先,脸很难隐藏或改变。它们不能被加密,不像硬盘驱动器、电子邮件或文本消息。它们可以从远处的相机远程捕获,并且越来越便宜地获得并存储在云中,云本身就是监控蠕变的特征。

其次,还有一个现有的姓名和脸谱数据库,比如驾驶执照、脸谱和社交媒体档案。这使得通过“即插即用”机制更容易开发。

第三,不同于通常需要新的、昂贵的硬件或新数据源的传统监控系统,用于面部识别的数据输入现在广泛地存在于现场,即CCTV和警官佩戴的身体凸轮。

第四,倾点蠕变。为了识别被捕或被捕获在照相机上的个人而创建的任何面部数据库都需要创建匹配数据库,该数据库只需几行代码,即可用于实时分析人体凸轮或闭路电视的馈送。纽约州州长安德鲁·库莫完美地表达了面部识别蠕变的逻辑。他坚持说与相机一旦使用面部识别技术所能做的事情相比,汽车牌照扫描是微不足道的。“当它读出那张牌照时,它读出来是为了嘲笑人们……[但是]Cuomo说,收费几乎是电子设备能够真正发挥的最不重要的贡献。”“我们现在正在转向面部识别技术,它将其带到一个全新的水平,这样,它可以看到车内人的面部,并针对数据库运行该技术。”如果你构建它,他们将进行监控。

最后,我们注意到不同于指纹、步态或虹膜模式的面孔是我们身份的中心。面部是我们在线和离线生活之间的管道,它们可以是连接我们所有实名、匿名和匿名活动的线程。很容易认为人们在脸上没有很强的隐私感,因为我们中的许多人经常在公共场合展示他们。事实上,在Burkas常见的地区之外,隐藏我们的脸常常会引起怀疑。


事实上,我们确实对脸部有隐私的兴趣,这是因为人类在历史上已经发展了与隐私保护相关的价值观念和制度,在那些时候,我们很难识别出大多数我们不认识的人。由于生物的限制,人类的记忆力是有限的;没有技术的增强,我们只能记住这么多的面孔。由于人口规模和分布,我们一生中只会遇到这么多人。这些限制创造了晦涩的地带,因为他们,人们在公共场所取得了巨大的成功。

最近最高法院关于第四修正案的裁决表明,在公共场所争取隐私保护是不够的。就在今年夏天,在Carpenter诉美国一案中,我们的最高法院以5票对4票裁决宪法保护手机位置数据。在大多数意见中,首席大法官约翰·罗伯茨写道:“一个人不会冒险进入公共领域而放弃所有第四修正案的保护。相反,‘那些(个人)寻求作为私人保护的东西,甚至在公众可接近的地区,可能受到宪法保护。’

 

人脸识别技术为何不能程序化

因为面部识别技术带来了极大的危险,所以社会不能相信像自我调节这样的内部改革过程。经济回报将鼓励将面部识别技术推向极限的企业精神,而企业游说活动将向这个方向严重倾斜。

面部识别技术是一种伪装成礼物的威胁。

社会也不能等待民粹主义的起义。面部识别技术将继续作为最新和最伟大的应用程序和设备的一部分。苹果公司已经将脸部ID作为其新iPhone的最佳新特性。这同样适用于意识形态的新闻报道,面部识别技术似乎能拯救这一天。

最后,社会不应该把希望寄托在传统的监管方式上。由于面部识别技术构成了独特的威胁,因此它不能被定义适当和不适当用途以及希望平衡潜在社会利益和对坏行为者的威慑的措施所遏制。这是一种罕见的情况,需要绝对禁止,比如渥太华地雷条约。

现在,有一些聪明的建议来控制面部识别技术,甚至更少的限制它的实际法律。例如,伊利诺斯州和德克萨斯州的生物特征识别法值得称赞,但它们遵循传统的管理策略,要求那些收集和使用面部识别(和其他生物特征识别符)的人遵循一套基本的公平信息实践和隐私协议。这些要求包括在收集前得到知情同意、规定的数据保护义务和保留限制、禁止从生物特征数据中获利、向其他人披露生物特征数据的能力有限,以及尤其是违反法规的私人诉讼原因。

提出的面部识别规律遵循类似的路线。联邦贸易委员会建议类似的“通知,选择和公平的数据限制”的面部识别方法。电子前沿基金会的报告,侧重于执法,包含类似的,虽然更强大的建议。这些包括限制收集和存储数据;建议限制单个数据库中一个或多个生物特征的组合;定义使用、共享和安全的明确规则;以及提供通知、审计试验和独立监督。乔治城隐私和技术法律中心的报告在模范人脸识别立法中提出了对政府访问人脸打印数据库的重大限制,以及对使用实时人脸识别的有意义的限制。

可悲的是,这些现有和拟议的要求大多是程序性的,我们认为,它们不会最终停止监视的蔓延和面部扫描基础设施的扩散。对于初学者来说,关于同意、通知和选择的一些基本假设是建立在现有法律框架中的是错误的。知情同意作为监管和数据实践的监管机制是一个引人注目的失败。即使人们在世界上得到了所有的控制,他们也不能在规模上进行有意义的锻炼。

然而,立法者和行业都在跋涉,忽略了人们的时间和资源限制。另外,这些规则,就像数字时代的隐私规则一样,都是漏洞。有些法规仅适用于收集或存储数据的方式,但在很大程度上忽略了它是如何使用的。其他只适用于商业行动者或政府,如此暧昧,容忍各种有害活动。要认识到面部识别被吹捧的好处,将需要更多的相机、更多的基础设施和覆盖面广的面部数据库。


人脸的未来

因为面部识别技术提供了转换我们是谁的承诺,而且无论我们走到哪里,都能够进入几乎可以立即存储、共享和分析的可跟踪信息,所以其未来的发展威胁着使我们不断受到损害。人类繁荣的未来取决于面部识别技术在系统变得过于根深蒂固之前是否被禁止。否则,人们就不会知道在公共场所是什么样子,而不会被自动识别、分析和潜在利用。在这样一个世界里,面部识别技术的批评者将被剥夺、沉默或不再存在。

 

作者:Woodrow Hartzog,美国东北大学法学院计算机与信息科学学院法律与计算机科学教授;斯坦福大学独联体研究员


原文:Facial Recognition Is the Perfect Tool for Oppression

作者:Woodrow Hartzog & Evan Selinger

翻译:徐大白

| 1
登录后可评论,马上登录吧~
评论 ( 1 )
<html><body><p>像徐大神学习</p></body></html>
回复
5天前