还是高堡奇人:中美 1984 在海湾的黑手

  • 美国和中国的技术寡头又在其他国家竞争作恶。这次不同的是,美国寡头正越来越难以在自家实现1984;而中国寡头,对内对外“一视同仁”……

旧金山已经禁止了警察使用面部识别技术,而美国的其他地区也在努力希望能做同样的事;

亚马逊因向美国政府当局出售 Rekognition系统而面临压力;亚历山大·奥卡西奥·科尔特斯(Alexandria Ocasio-Cortez)表示担心,人脸识别可以作为一种社会控制形式……

以上都没有解决这一问题本身。

即使这项技术在美国受到了看起来更严格的审查,但是,⚠️美国巨头IBM、中国巨头海康威视和华为等科技公司,正竞相在阿联酋推广生物识别监控系统,在那里的公民可没得选。

人权组织和国际媒体早已有报道,阿联酋使用手机骇客软件监视数百名持不同政见者、记者和其他当局想要的人,并在监控技术方面投入了巨资

“这绝对是可怕的,”数字权利技术专 Sarah Aoun 说,他与包括中东在内的人权活动家合作,共同致力于保护隐私和安全。

“在像迪拜这样没有太多言论自由的地方,人们因为自己所说的话而被判入狱,当你引入人工智能时,它只会被权力系统用来加强对全部人口的控制。他们正在将这项技术武器化。”

“They are weaponizing this technology.”

迪拜警方已开始推出一项雄心勃勃的计划,名为 Oyoon,阿拉伯语中的“眼睛”一词 —— 实施人工智能驱动的面部识别和分析,全国覆盖。

警方表示,该计划“将减少犯罪和交通事故”。

对数百个政府采购和监管文件的分析明确了迪拜高科技警务目标的范围,表明警方已经寻求视频分析平台,以记录和分析人们的面孔、声音、行为和汽车行踪,就如进行谷歌搜索那么容易

对数十种公司营销材料和官员采访的回顾显示,⚠️全球科技巨头都在渴望向警方提供他们正在寻求的1984技术。

⚠️世界各地的警察部门和安全部队都在拥抱面部识别技术,从中国和厄瓜多尔到美国和英国

生物识别监控系统将数百万人的面孔、声音和个人特征席卷到世界各国的政府数据库中,几乎没有透明度或监管监督。

这种现象引发了民权倡导者的强烈抗议,他们认为该技术在公共场所的不受限使用对个人隐私构成了严重威胁,并可能加剧警察部队权力滥用的虐待行为,从种族歧视到任意拘留。

在最近由政府组织的迪拜人工智能会议上,⚠️包括华为在内的科技公司的代表、中国的海康威视和美国寡头 IBM 都表示,他们认为阿联酋和波斯湾的其他国家是一个令人兴奋的市场,他们可以销售他们的视频分析平台,他们说这些平台可以做任何事,从分析群体的行为、到根据他们的脸部自动将特定人列入黑名单

波斯湾的其他政府,如巴林和沙特阿拉伯,也在使用手机骇客和其他高科技监视措施来监视和恐吓持不同政见者,甚至包括流亡人士

与此同时,阿联酋已投入了大笔资金发展其监控能力。

加州大学伯克利分校的博士后研究员、公民实验室的 Bill Marczak 说:“他们不仅针对在阿联酋的人,而且他们还利用境外的间谍软件在其他国家开展业务。”

A still from a demonstration video at the AI conference in Dubai.

警方几乎没有谈到 Oyoon 计划中使用的特定技术类型。

BuzzFeed 新闻审查了采购记录,其中显示警方早在2016年中期就开始寻求面部识别和语音识别监视技术,包括 Vectra M3 等产品,该产品旨在创建一个人脸的3D模型,以及 NeoFace Reveal,这是日本公司 NEC 制作的一款软件,它将照片和犯罪现场视频中的面孔与预先存在的图像数据库相匹配。

警方还寻求一项名为 Batvox 的语音识别程序,⚠️该程序被其制造商美国马萨诸塞州的 Nuance 公司描述为“新的公共安全武器”。

根据当地新闻报道和熟悉该计划的人士称,Oyoon 计划于去年1月公布,旨在将迪拜政府部门使用的数千个摄像机视频输入到中央指挥中心。

指挥中心使用人工智能和人脸识别技术来识别所谓的安全威胁。

“[Oyoon]安全系统采用人工智能全天候监视迪拜的每一个角落!”在阿联酋政府顾问提供的阿联酋人工智能战略演示中,这句话写在幻灯片上。

迪拜警方吹嘘该计划已经导致300多人被捕

研究表明种族偏见已被纳入领先的面部识别平台,引发了对嫌疑人错误识别的质疑。

在阿联酋和其他地方,没有对这些平台进行过任何独立审计,无法确保准确性或免于偏见。

“人工智能在闭路电视系统中的应用打开了误用的潘多拉盒子,”Sam Samuels 说,他是迪拜 CCTV 系统的前警官和顾问。“在一天结束时,人类必须验证系统生成的信息。”

在中国,面部识别的使用一直存在争议。中国政府因对少数民族的大规模监视而受到国际上的抨击。

海康威视是全球最大的监控产品供应商,已经提供了数千台监视摄像机 —— 从英国伦敦到中国上海。

但在迪拜举行的人工智能大会上,海康威视在中东的高管 Robert Wang 并没有提及该公司在新疆都干了什么。

相反,他将中国的监视和维稳方法作为一个“榜样”呈现给阿联酋政府官员和企业高管。

“The challenge for us now is not that we no longer have enough video. The problem is that we have too many videos.”

这位海康威视的高管说,中国是世界上最安全的国家之一,并称*人均警察*人数相对较少。

他说,原因是该国国内维稳机构在全国各地安装了2.5亿台监控摄像机。

“我们现在面临的挑战并不是我们不再拥有足够的视频。而是,我们有太多的视频。”

BuzzFeed News 采访了几位关注阿联酋的曾经被拘留的人、囚犯和人权倡导者。他们都表示,在迪拜广泛使用人脸识别可能会导致滥用,并可能严重损害隐私权。

“如果以正确的方式使用,这是一项很好的技术,” Khaled Ahmad 说,他是一名计算机工程师、囚犯权利活动家,也是阿联酋的前被拘留者。

“但是,在阿联酋政府的帮助下,人们仅仅因为在Facebook上发布信息谈论自由和人权就被捕。如果用这种技术来对付犯罪分子,这是一项很好的技术,但如果用它来捂住人们的嘴巴则完全相反。”

迪拜警方称,Oyoon 项目正在与包括国家安全局在内的多个阿联酋政府部门合作推出。

采购记录显示,⚠️警方还寻求程序来帮助进行视频分析、从计算机中提取已删除的数据、识别车牌、以及入侵手机

但视频分析的真正力量不在于这些功能中的任何一个,而是在配置文件中,当许多数据源组合在一起时,它就能使执法部门建立关于目标个人的全部生活图景。

截至发布时,迪拜警方没有回复对 Oyoon 计划的多次评论请求。

海康威视和华为拒绝对本文中的陈述发表评论。

IBM的一位发言人表示,该公司拥有“强大的流程,以确保潜在客户参与符合我们的价值观,以及美国和当地法律。”

Megha Rajagopalan / BuzzFeed News

面部识别已经存在了十多年。其最早的已知执法用途之一是2001年在佛罗里达州坦帕市

该技术仍然存在问题,并且面临着从区分非白人面孔到其整体准确性的能力方面的问题,⚠️但执法机构现在正在广泛使用该技术以新的方式建立个人档案。

文件存储成本在过去几年中变得非常便宜,使当局更容易存储视频。

Os Keyes 说,并且具有可以调整以适应人们外观变化的算法 —— 也就是说普通的化妆和局部遮盖是无效的,以及可以轻松逐帧分析视频的新技术 ……使面部识别和其他生物识别监控程序更便宜、更有效。这位华盛顿大学的博士生正在研究面部识别的历史。

复杂的计算机程序快速搜索和分析数千小时的摄像机镜头的速度正在高速提升。

例如,购物中心的相机可以随着时间的推移捕捉到您脸部的许多不同角度,使计算机能够从不同角度模拟您的头部外观,并使警察更容易发现您。

“他们提出的是算法,而不是比较你的两张照片;他们拍摄你的一系列照片,并用这些照片来构建你头部3D模型,然后它们可以旋转到一定的角度”,Keyes 说。

现在,视频分析程序可以搜索人物特征组合的素材。

BriefCam 的一名官员 ——这家以色列公司由日本佳能公司拥有,并与惠普企业合作 —— 在迪拜举行的人工智能大会上展示了这一点,并展示了一个带有搜索栏的屏幕,上面是数十名在商场里穿着中长袖红色连衣裙的女性。

BriefCam 官员说,BriefCam 很高兴有机会与阿联酋安全机构合作。

BriefCam 的首席营销官 Stephanie Weagle 在一份声明中表示,生物识别技术具有“重大的公共安全利益”,包括识别嫌疑人和寻找失踪儿童。

⚠️中国的华为展示了一个名为 FusionInsight 的数据分析平台,该平台可以快速梳理数千小时的面部和车牌镜头。

一位公司官员表示,该平台有能力将个人列入黑名单。当被问到这个问题时,华为拒绝发表评论。

⚠️美国寡头微软也展示了一个视频分析平台,声称可以检测相机上人们的面部、年龄、甚至情绪状态,以及人群规模。

为了说明海康威视技术的实力,该公司高管王先生以黄金时段警匪片的风格拍摄了6分钟的小电影。在影片中有一队中国警察,他们的声音被用美式英语配音,这堆警察使用该公司的产品套件追踪戴着黑色滑雪面具的偷珠宝的小偷。

警方最终使用微型监视镜头找到了嫌犯,并找到他的无牌车的图像,还搜索了过去几周经常出现在珠宝店附​​近的人,并汇总过去几周内公共场合的监视图像,找到了嫌疑人的脸部。

该嫌疑人此后试图通过拉低棒球帽躲避监视摄像机,但是这不起作用。

“将他加入犯罪数据库并跟踪他,”影片中的首席警官咆哮道。

在电影结束放映时,王告诉观众监控技术及其可以协同工作的方式,他说:这都是真实的 —— “不是科幻小说”。

“这不是一个制造商可以单独建造的系统,”他补充说,“如果用户和合作伙伴感兴趣,我很高兴今天能够来到这里。我们愿意开放合作。”

像海康威视这样的中国公司,已经从中国政府推动本土人工智能技术发展的计划中受益,并能够在中国公众身上测试他们的技术,也因此已经成为面部识别领域的大牌玩家

总部位于香港的 SenseTime 是全球最“值钱”的人工智能创业公司之一,它向 BuzzFeed News 表示,它正在迪拜设立办事处 —— 这是该公司在亚洲以外的第一家办事处。

知情人士表示,“智能迪拜”(该市“智慧城市”权威机构)和 SenseTime 之间关于其面部识别产品实施的讨论正在取得进展。

Smart Dubai 表示去年在上海会见了 SenseTime,以确定合作的可能性。在被问及讨论时,SenseTime 表示无法披露“商业敏感信息”。

SenseTime 国际业务集团负责人 George Huang 在会议上表示,社交媒体的挖掘数据有助于为维稳目的提供信息。

他说,这些数据有助于 SenseTime 和全球其他AI公司培训算法来管理安全[监视社会]。他补充说,像这样的数据对智能城市至关重要。

SenseTime 的发言人表示,该公司“致力于公平和负责任地应用人工智能技术。除了遵守我们所在市场的当地法律法规外,我们还有内部流程来保护我们的技术,以确保以公平和负责任的方式使用它”。

⚠️除了识别个人之外,这些视频分析平台还能够实时地提醒执法机构关于人群何时出现聚会。

⚠️IBM、华为和其他公司展示了可以自动测量人群规模和特征的平台 —— 例如,标记某件衣、某人是否朝某个方向行走,或者某人是否徘徊了太久。

⚠️像这样的视频分析平台可以很容易地粉碎抗议活动和其他和平集会。

IBM 的一位代表在会上迅速宣传该公司的 PowerAI Vision 平台的执法实用程序,称 IBM 希望将其出售给阿联酋的警察和安全部门

IBM 的一位发言人指出,该平台无法识别单个面孔,只能在视频中标记“对象”。该产品的演示展示了物体和人类的标签。

中国的 Huang 则将 SenseTime 的人群分析软件作为管理人群密度的关键。

他说,⚠️该技术可以自动计算在场人数并分析安全水平、警告“异常行为”,包括一次聚集的人太多等等

他补充说:“我们可以了解嫌疑人的出现时间、地点、犯罪方法、活动习惯和活动范围。”

SenseTime 产品的一个演示显示,被监视的人们身体周围出现了一个带有彩色编码圆圈的标记,例如,当他们徘徊太久时,或者发生“混乱”时。

迪拜的维稳服务和执法部门已经使用面部识别摄像机的程度 —— 以及使用步态识别、汽车识别、和数据分析等补充技术的程度 —— 目前尚不清楚,尽管分析师称其可能已被广泛使用。

迪拜监管机构针对维稳行业发布的要求规定,私人视频监控系统必须连接到名为 VideoGuard 的集中式系统,该系统允许迪拜警察随时访问。

⚠️“今天的每一个会议中心、每一家酒店、每一条路,都布置了监视摄像机。阿联酋是如此,在美国也是如此,在中国和世界各地都是如此”,阿联酋人工智能部长 Omar Al Olama 在5月份对海湾新闻记者说

根据采购记录,迪拜警方已经购买了许多用于车牌检测的技术,该技术比面部识别技术的出现要早得多。

作为 Oyoon 项目的一部分,迪拜已在至少一个名为 Al Muraqqabat 的城市社区安置了面部识别摄像头。

该城市位于迪拜东部,是一个相对密集的住宅区,也是购物商场和电影院的所在地。

行业分析师表示,面部识别摄像头和其他生物识别监控系统可能已在阿联酋广泛使用,包括在迪拜和阿布扎比,但当局尚未将其公之于众。

A police officer walks through a security tunnel at a technology exhibition at the Dubai World Trade Centre, October 2017.

阿拉伯之春起义席卷中东以来的几年里,阿联酋投资了大量监视技术,该国过去常常监视其境内的活动家和持不同政见者,并在国外进行间谍活动。

⚠️阿联酋和美国特工联合,攻击数百名活动家、记者和政治领导人的 iPhone。

“他们专注于预防性监视”,阿联酋国际自由运动的活动家 Joe Odell 说。

“这是关于通过建立广泛的监视状态来防止街头行动的控制手段,他们可以在抗议行动发生之前将任何事扼杀在萌芽状态。他们为此花了数百万英镑。”

人权活动人士说,酷刑在监狱系统中是很常见的。

由 BuzzFeed News 采访的几名前阿联酋囚犯因涉嫌泄露信息或“诽谤该国”而被监禁或拘留,他们说他们在监狱中遭遇过虐待和酷刑,包括殴打、电击和睡眠剥夺。

他们还说,⚠️他们的虹膜被扫描、他们的指纹被拿走、他们的电子设备被没收 —— 包括美国在内的国家的囚犯也面临着这种待遇。

当被问及这些指控时,迪拜警方称该问题不属于他们的管辖范围。

巴勒斯坦计算机工程师 Ahmad 为一家由阿联酋政府高级官员控制的公司提供技术支持,而后在阿布扎比他被拘留几个月,没有任何解释。

他说他被蒙住眼睛并带到一个他现在仍然不知道是什么地方的秘密监狱。

在审讯期间 —— 警察似乎相信他可以获得敏感信息 —— 他被绑在电椅上,一次电击20秒钟,当他在痛苦中昏倒时,他们在他的脸上泼冷水,强迫他恢复意识。

Ahmad 说,警察做的第一件事就是没收他的手机和电脑。

警察要求密码,他给了警察不正确的密码,希望能够拖延时间。

但是审讯人员后来告诉他,无论如何他们都已经打开了这些设备。他说,他相信他们真的做到了无需密码破解—— 因为其中一名官员开始和他开玩笑,讲述一位女性朋友,就是在他手机上的照片。这位官员说,“她很性感”。

在他第一次被拘留五个月后,Ahmad 被蒙住眼睛,开车送回到阿布扎比的机场。

他被驱逐到黎巴嫩,没有任何解释。警察甚至道歉并告诉他,他是无辜的。

Ahmad 最终搬到了瑞典,他现在住在那里;在他成为瑞典公民之后,他开始撰写关于他在狱中的苦难。

阿联酋的前雇主给他发了一封信,他与 BuzzFeed News 分享了这封信,信中声称根据阿联酋的网络犯罪法可能会因涉嫌窃取该公司的机密信息而起诉他。

虽然他现在住在国外,但一直在警惕着自己的设备被监视的可能性。

去年,该国最著名的人权活动家之一 Ahmed Mansoor 被判处10年监禁,并因在 Facebook 和 Twitter 上发布的一些帖子被罚款约27万美元,法庭认定这些帖子“损害了阿联酋在国外的声誉及其“社会和谐统一”。

当局可以根据该国的网络犯罪法逮捕任何在互联网上发帖的人,该法禁止任何人在社交媒体上的所谓“诽谤言论”。

Mansoor 在他的推特账户中的陈述引起了全世界对整个中东地区侵犯人权行为的关注,他的政府一直在严密监视他,他的电子设备一直是间谍软件的攻击目标。

“Mansoor 毫不畏言他所做的事和他为什么这样做,但他非常清楚自己受到监视。他会在酒店大堂与人会面,但他会把手机放在家里,“曾在该地区为人权观察组织工作的研究员 Nicholas McGeehan 说。

“当局已经囚禁了所有这些人、或对其进行了恐吓,骚扰他们以令他们保持沉默”。

自由言论倡导者和前阿联酋囚犯说,对社交媒体的控制以及当局可能在窥探自己手机的认识已经让人感到脊背发冷。人权组织表示,他们担心在物理空间中越来越多的监控技术可能会使问题变得更加严重。

“政府已表现出要压制一切和平反对的意愿和愿望,”公民实验室的 Marczak 说,他曾与 Mansoor 合作过。

“如果他们有强大的工具来跟踪你在户外的一举一动,并且他们有强大的间谍软件可以破解你家里的所有设备,那么你就几乎没有任何地方可以躲藏了。”⚪️

Face recognition has been banned in San Francisco and linked by Alexandria Ocasio-Cortez to a rise in global fascism. But it’s being marketed in Dubai, which has spied on hundreds of dissidents, by American and Chinese tech giants.

发表评论

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据