只要一张照片,陌生人就可以找到您的一切私密信息

  • 一个鲜为人知的初创企业正在帮助警察将陌生人的照片与他们的在线图像进行匹配,它已经彻底终结了公开场合的匿名性 …… 这篇报道中出现了很多有趣的细节,仔细看

直到最近,Hoan Ton-That 的 iPhone 游戏可以让人们将特朗普独特的黄色头发放在自己的照片上,仍然不那么起眼。

然后,Ton-That 先生(这位澳大利亚技术员和曾经的模特)做了一件大事:他发明了一种工具,可以终结街头任何人的匿名性,并将该工具提供给了数百个执法机构,从佛罗里达州的当地警察到联邦调查局、还有国土安全部。

他的小公司 Clearview AI 设计了一款突破性的面部识别应用程序。该应用程序可以允许您上传任何想要的人的照片,然后你就可以看到该人的所有公开照片、以及指向这些照片出现在哪里的链接。

该系统的骨干是一个数据库,其中包含 Clearview 声称从 Facebook、YouTube、Venmo 和数百万其他网站中抓取的30亿张图像,它远远超出了美国政府或硅谷巨头建造的任何数据库

联邦和州执法人员说,尽管他们对 Clearview 的工作原理以及背后的人知之甚少,但他们还是使用该公司创建的应用程序来帮助抓人。

到目前为止,由于其对隐私的彻底剥夺,可以轻易根据任何人面部识别每个人的技术一直是禁忌。有能力发布此类工具的技术公司还没有这样做。 包括旧金山在内的一些大城市已经禁止警察使用面部识别技术。

但该公司表示,在没有经过公众审查的情况下,去年有600多家执法机构已经开始使用 Clearview。

纽约时报分析了该应用程序代码,其中包括将其与增强现实眼镜搭配使用的编程语言。也就是说用户将有可能识别出他们看到的每个人。

从参加抗议活动的所有人、到地铁上的陌生人,该应用程序能识别几乎一切 —— ⚠️不仅揭示目标人的姓名,而且还揭示他们的住所、他们的一举一动、和认识的其他人

这种监视工具不仅被卖给了警察,Clearview 还将其许可给了多家公司。

“这种监视工具被武器化的可能性无穷无尽,” 圣塔克拉拉大学高科技法律研究所联合主任 Eric Goldman 说。

Clearview 一直保密,避免对其推动技术的争论。当记者11月份开始调查该公司时,其网站上只有一个空白页面,显示不存在曼哈顿的营业地点。

该公司在 LinkedIn 上列出的一名员工,名为 “ John Good ”的销售经理,实际上就是 Ton-That 本人,他用了一个假名。一个月以来,与该公司有关联的人都没有回复记者的电子邮件或电话。

在公司躲避记者的同时,它也在监视记者。应记者的要求,许多警察已通过 Clearview 应用程序搜索了这位记者的照片。但他们很快接到该公司代表打来的电话,询问他们是否在与媒体对话。这表明 Clearview 有能力也有意愿监视警察都搜索了什么人。

面部识别技术一直存在争议,人们对这种老大哥格外紧张。它倾向于为某些群体提供错误的匹配,例如有色人种;而且,一些警察使用的面部识别产品(包括 Clearview 的产品)尚未得到独立专家的审核。

Clearview 的应用程序带来了额外的风险,因为执法机构将敏感照片上传到该公司的服务器上,这些公司的数据保护能力未经测试

该公司最终开始回答了记者的问题,称其较早的沉默是 “在隐身模式下进行早期启动的典型表现”。

Ton-That 先生承认设计了用于增强现实眼镜的原型,但表示该公司没有计划发布它。他说,记者的照片敲响了警钟,因为该应用程序 “标记了可能的异常搜索行为”,以防止用户进行其认为 “不适当的搜索”。

除 Ton-That 外,Clearview 的另一位联合创始人是 Richard Schwartz (他曾经是前纽约市市长 Rudolph W. Giuliani 的助手),并得到了 Facebook 和 Palantir 背后的风险投资家 Peter Thiel 的财政支持

另一个早期投资者是一家名为 Kirenaga Partners 的小型公司。它的创始人 David Scalzo 消除了对 Clearview 使人脸可搜索的担忧,称它是 “解决犯罪的宝贵工具”。

Scalzo 说:“我得出的结论是,由于信息不断增加,因此永远不会有隐私。” [?????]“法律必须确定什么是合法的,但您不能禁止监视技术。当然,这可能会导致反乌托邦的未来或其他事物,但您不能禁止它。” 真能扯蛋。

Hoan Ton-That, founder of Clearview AI, whose app matches faces to images it collects from across the internet.Credit…Amr Alfiky for The New York Times

沉迷于AI

31岁的 Ton-That 距离硅谷很远。在他的祖国澳大利亚,他是在越南的皇室祖先的故事中长大的。2007年,他辍学,搬到了旧金山。他的目标是尽早进入他期望的充满活力的社交媒体应用程序市场。但是他的早期冒险从未获得真正的吸引力。

2009年,Ton-That 创建了一个网站,使人们可以与即时通讯工具中的所有联系人共享视频链接。在被冠以 “网络钓鱼骗局” 后该网站被关闭。

2015年,他开始鼓捣特朗普的头发,在照片共享应用程序中让用户可以把特朗普的头发添加到自己的照片上。两个创业都失败了。

Ton-That 沮丧不已,于2016年移居纽约。他说,他考虑过从事模特职业,但是经过一番拍摄之后,他又回过头去重新尝试找出科技领域的下一件大事。

他开始阅读有关人工智能、图像识别和机器学习的学术论文。

Schwartz 和 Ton-That 于2016年在曼哈顿研究所(一个保守派智囊团)举行的读书会上相识。

Schwartz 现年61岁,在1990年代为前市长 Giuliani 工作时积累了令人印象深刻的人脉资源,并在2000年代初担任《纽约每日新闻》的社论版编辑。

两人很快决定一起从事面部识别业务:Ton-That 将创建该应用程序,而 Schwartz 负责使用他广泛的人脉资源来激发市场的兴趣。

警察部门使用面部识别工具已有近20年的历史了,但是从历史上看,他们只能搜索政府数据库里提供的图像,例如证件大头照和驾照。

近年来,面部识别算法的准确性有所提高,亚马逊等公司提供的产品可以为任何图像数据库创建面部识别程序。

Ton-That 想超越这一范围。他从2016年开始招募了一些工程师。一个人帮助设计了一个程序,该程序可以自动收集整个互联网上的人脸图像,例如 就业网站、新闻网站、教育网站、以及社交网络,包括 Facebook,YouTube,Twitter,Instagram 甚至 Venmo。这些公司的代表表示,他们的政策禁止这种抓取行为,Twitter 说,它明确禁止使用其数据进行面部识别。

他雇用的另一名工程师负责完善源自学术论文的面部识别算法。

结果是:一个系统诞生了,使用的是 Ton-That 所说的 “最先进的神经网络”,可以根据面部几何形状将所有图像转换为数学公式或向量,例如人的眼间距。Clearview 创建了一个庞大的目录,将具有相似矢量的所有照片聚集在一起。

当用户将一张头像的照片上传到 Clearview 的系统中时,它就会将照片中的面部转换为向量,然后显示它附近存储的所有抓取到的其他照片 —— 以及指向这些图片来源网站的链接。

Schwartz 支付了服务器成本和基本费用,但不包括操作。每个人都在家工作。Ton-That 说:“我靠信用卡欠债生活。此外,我是比特币信徒,所以我存了一些比特币。”

Mr. Ton-That showing the results of a search for a photo of himself.Credit…Amr Alfiky for The New York Times

警察最喜欢这种东西

到2017年底,该公司拥有了一个强大的面部识别工具,就是 Smartcheckr。但是 Schwartz 和 Ton-Ton 不确定他们会把它卖给谁。

也许可以用来装在家里审查保姆的工作,或作为监视摄像机的附加功能;或者用于建筑物大厅的保安人员或帮助酒店按客人的名字打招呼? Ton-That 说:“我们想到了每个主意。”

据称,2017年底,最怪异的推销活动之一是 Paul Nehlen,他是一名反犹主义者且自称为 “pro-white” 的共和党人,在威斯康星州竞选国会议员,将 “非常规数据库” 用于所谓的 “极端异议研究”。提供给 Nehlen 的文件后来在网上发布。 Ton-That 说,该公司从未提供过此类服务。

该公司很快将其名称更改为 Clearview AI,并开始向执法部门推广。

那是该公司从外部投资者 Thiel 先生和 Kirenaga Partners 获得第一轮资金的时候。

Thiel 尤其以秘密资助绿巨人霍根的诉讼而闻名,该诉讼使颇受欢迎的网站 Gawker 破产。Thiel 和 Ton-That 都是 Gawker 的负面文章的主题。

Thiel 的发言人 Jeremiah Hall 说:“ 2017年,Peter 给了一位才华横溢的年轻创始人20万美元,两年后又转换为 Clearview AI 的股权。” “那是 Peter 唯一的贡献;他没有参与公司。”

根据追踪初创企业投资的网站 Pitchbook 的数据,即使在2019年进行了第二轮融资后,Clearview 仍然很小,已经从投资者那里筹集了700万美元。该公司拒绝确认金额。

2月,印第安纳州警察开始对 Clearview 进行试验。他们在使用该应用程序后的20分钟内就解决了一个案例。两名男子在公园打架,其中一个人对另一个人开枪。一名旁观者用手机记录了这一罪行,因此警察可以通过 Clearview 的应用程序对持枪者的脸进行了搜索。

这名男子出现在某人在社交媒体上发布的视频中,而他的名字也包含在该视频的标题中

当时,印第安纳州警察队长 Chuck Cohen 说:“他没有驾驶执照,没有被捕记录,因此他不在政府数据库中。”

也就是说,不在政府数据库中的人脸依旧可以被警察搜索到,使用的是社交媒体情报。

该名男子被捕并被指控。Cohen 说,如果警方没有搜索社交媒体上出现的面孔的能力,他可能不会被认出。

据该公司称,印第安纳州警察成为 Clearview 的第一个付费客户。 (警方拒绝发表评论,只说他们测试了 Clearview 的应用。)

Clearview 派遣了现任和前任共和党官员来接近警察部队,他们提供免费试用和年度许可证,价格低至2,000美元。

Ton-That 说,Schwartz 先生利用他的政治人脉帮助政府官员意识到这一工具的价值。(“我很高兴能有机会帮助 Hoan 将 Clearview 打造成一个以任务为导向的组织,该组织将帮助执法部门保护儿童并增强全国各地社区的安全,” Schwartz 通过发言人说。)

该公司主要为客户服务的联系人是 Jessica Medeiros Garrison,他负责 Luther Strange 的共和党竞选活动,为阿拉巴马州总检察长服务。(Clearview 表示,这是一个简短的、无偿的职位,该公司还邀请民主党人帮助其产品销售。)

A chart from marketing materials that Clearview provided to law enforcement.t Clearview

该公司和警察部门提供的文件显示,该公司最有效的销售技术是为警方提供30天的免费试用,然后鼓励其采购部门在会议和在线上向其他警察部门赞扬该工具。

7月,新泽西州克利夫顿的一名侦探敦促其队长购买该软件, 称因为该软件 “可以在几秒钟内识别出犯罪嫌疑人。”

这名侦探在电子邮件中写道:“照片可以通过远距离摄镜头秘密拍摄并输入到该软件中,而不必 ‘消耗’ 监视操作。” 这封电子邮件由两名研究人员 MuckRock 的 Beryl Lipton 和 Open the Government 的 Freddy Martinez 提供。 去年年底,他们在调查当地警察部门如何使用面部识别时发现了 Clearview。

据时报审阅的 Clearview 销售演示,该应用程序有助于确定一系列情况下的个人:被指控对一个孩子的性虐待,目标脸部出现在其他人拍摄的健身房照片的镜子中;亚特兰大发生的一系列邮箱盗窃案背后的人;在阿拉巴马州的人行道上被发现的死者 John Doe;以及银行多个身份欺诈案件中的嫌疑人。

Detective Sgt. Nick Ferrara in Gainesville, Fla., said he had used Clearview’s app to identify dozens of suspects. Charlotte Kesl for The New York Times

Nick Ferrara 去年夏天在 Clearview 上做广告时就听说过 Clearview,该网站是专门研究金融犯罪的。他说,他以前仅依靠国家提供的面部识别工具 FACES

他说 Clearview 的应用程序优越。它的全国性图像数据库要大得多,而且与 FACES 不同,Clearview 的算法不需要目标人直接注视相机

他说:“借助 Clearview,您可以使用不完美的照片。一个人可以戴着帽子或眼镜,也可以是网络账户头像或面部局部视图。都可以被找到身份”。

他将自己的照片上传到该系统中,并打开了 Venmo 页面。他重启了老旧的被搁置的案件,并通过该软件确定了30多名犯罪嫌疑人。 9月,盖恩斯维尔警察局支付了10,000美元,以获得年度 Clearview 许可证。

联邦执法机构,包括FBI和国土安全部、还有加拿大执法部门,都在使用这种监视软件,据该公司和政府官员说。

尽管 Clearview 越来越受欢迎,但一直没有公开提及,直到2019年底,佛罗里达州检察官以盗窃罪指控一名妇女在 Clermont 的 Ace Hardware 商店偷走了两个烤架和一个吸尘器后。

当警察通过 Clearview 的监视录像进行搜索时他们找到了这名妇女,该监视工具将警察带到这位女士的 Facebook 页面。是监视视频和 Facebook 照片中可见的纹身确认了她的身份。

‘我们都完蛋了’

Ton-That 说,该工具并不总是有效。 Clearview 数据库中的大多数照片都是在眼睛的高度拍摄的。警方上传的大部分材料来自安装在天花板或墙壁上方的监控摄像机。

👉Ton-That 感叹道:“他们将监控摄像机的位置设置得太高了。对于正确的面部识别角度来说这是错误的。

该公司表示,尽管如此,其工具最多仍然可以在75%的时间内找到匹配项。但目前尚不清楚该工具多久发送一次错误匹配,因为该工具尚未经过独立机构(如美国国家标准技术研究院)的测试,该机构对面部识别算法的性能进行了评级

乔治敦大学隐私与技术中心的研究人员 Clare Garvie 说:“我们没有数据表明该工具是准确的。” 他研究了政府对面部识别技术的使用情况,“数据库越大,由于撞脸效应,导致误识别的风险就越大。他们谈论的是他们在互联网上找到的庞大的随机人数据库。”

但是现任和前任执法人员均表示该应用程序有效。“对我们来说,测试就是要确认是不是奏效,” 前印第安纳州警察局局长 Cohen 说。

Clearview 流行的原因之一是其服务相对独特。那是因为 Facebook 和其他社交媒体网站禁止人们抓取用户的图片 —— Clearview 违反了这些网站的服务条款。

Ton-That 耸耸肩:“很多人都在这样做。Facebook 知道。”

Clearview 投资者 Thiel 先生就是 Facebook 董事会的成员。 Nancarrow 拒绝评论 Thiel 先生的个人投资。

一些执法人员说,他们不知道上传的照片已发送到并存储在 Clearview 的服务器上。Clearview 尝试通过常见问题解答(F.A.Q.)提供给潜在客户的文件中写道其客户支持员工不会查看警察上传的照片。

Clearview’s marketing materials, obtained through a public-records request in Atlanta.

Clearview 还聘请了乔治·W·布什总统领导的美国总检察长 Paul D. Clement,以缓解对该应用程序合法性的担忧

在8月 Clearview 向包括亚特兰大警察局和佛罗里达州 Pinellas 县警长办公室在内的潜在客户提供的备忘录中,Clement 说,执法机构 “在使用 Clearview 时不违反联邦宪法或相关的生物识别和隐私法,也能达到预期的目的。”

Clement 现在是 Kirkland&Ellis 的合伙人,他写道,只要不是获得逮捕令逮捕他们的唯一依据,当局就不必告诉被告他们已通过 Clearview 被识别。Clement 没有回应多次置评请求。

该备忘录似乎很有效。亚特兰大警察和皮涅拉斯县警长办公室很快开始使用 Clearview。

由于警察上传了他们试图识别的人的照片,因此 Clearview 拥有越来越多的个人脸部数据,这些数据库引起了执法部门的关注。

该公司还可以操纵警方看到的结果

该公司意识到记者要警官通过该应用程序搜索记者的照片后,这位记者的脸被 Clearview 的系统标记,有一段时间没有显示匹配。当被问到这个问题时,Ton-That 笑了起来,称其为 “软件 bug”。

“他们正在做的事令人毛骨悚然,但是这类公司将会变得更多。斯坦福大学法学院的隐私教授 Al Gidari 说, “由于没有非常严格的联邦隐私法,我们全完蛋了。”

Ton-That 说,他的公司仅使用公开可用的图片。他说,如果您在 Facebook 中更改了隐私设置,以使搜索引擎无法链接到您的个人资料,那么您的 Facebook 照片将不会包含在数据库中。

但是,如果您的个人资料已经被抓取,那就为时已晚了。该公司将保留所有已刮取的图像,即使以后将其删除或隐藏也没有用了

波士顿东北大学法律与计算机科学教授 Woodrow Hartzog 将 Clearview 视为美国应禁止面部识别的最新证据。

他说,“我们依靠行业的努力来实现自警,不采用如此冒险的技术,但是现在这些大坝正在破裂,因为该技术的利润太高了。阻止它的唯一方法就是禁止它。”

每个人都知道你名字的世界

Ton-That 最近在 Clearview 公司位于曼哈顿的办公室接受采访时,亲自演示了该应用程序。他自拍并上传了照片。该应用程序提取了他的23张照片。

然后,Ton-That 使用该应用拍了这位记者的照片。 所谓的 “软件bug” 已得到修复,⚠️现在记者的照片返回了许多结果,甚至可追溯到十年前,其中包括记者自己都从未见过的自己的照片

当记者用手遮住鼻子和脸颊时,该应用程序仍然返回了7个正确的匹配项。

警察和 Clearview 的投资者预测,其应用最终将向公众开放。

Ton-That 说他不愿意向公众公开。他说:“总会有一群滥用它的坏人。”

即使 Clearview 并未公开发布其应用,但由于这种禁忌已经被打破,因此模仿公司还将继续出现。通过脸孔搜索某人可能会变得像谷歌搜索名字一样容易。

⚠️陌生人将能够收听敏感的对话,为任何目标人拍照并了解个人的秘密。沿着街道行走的人将立即被识别出真实身份 —— 只需单击几下即可获得他或她的家庭住址。这将预示着公开场合匿名的彻底终结。⚪️

The Secretive Company That Might End Privacy as We Know It

发表评论

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据