机器人监视卫队即将到来

  • 32亿美元 —— 1984迎来了一块崭新的巨大肥肉

我们周围都是监控摄像头,可以随时记录我们。

但在大多数情况下,当这些摄像机正在观察我们时,没有人在看那些摄像机观察或记录的东西,因为没有人会为这种耗时且单调的任务所需的安保人员支付费用。

但想象一下,所有视频都在被密切观看 —— 数以百万计的监视者全天候监控它们;想象一下,这支军队是一群不需要报酬、从不厌倦、从不睡觉、从不错过任何细节的家伙,并且他们可以做到对所看到的一切完整回忆分毫不差。

这样一支监视者部队可以仔细检查他们看到的每个人是否有“可疑”行为的迹象。

通过无限的时间和无止境的注意力,他们还可以记录他们所看到的所有人的详细信息 —— 人们的衣着特征、人们的表情和情感、肢体语言,谁与谁正在联系,以及人们的每一项活动和动作。

这种情况很快就会到来了。当然,这些守卫不会是人类 —— 他们是AI特工。

ACLU 正在发布一份价值32亿美元的行业报告,该行业正在建立一种被称为“视频分析”的技术,该技术开始在全球范围内增强监控摄像头的能力,并将它们变成那种不眨眼的监视者。

该技术使用尖端的、基于深度学习的人工智能,发展速度是如此之快,以至于这项技术的早期版本已经开始进入所有人的生活。

一些汽车现在已经配备了仪表板摄像头,当驾驶员看起来昏昏欲睡时可以发出警报;

当陌生人出现在家门口时,门铃摄像机会提醒 主人;

无收银台的商店使用支持 AI 的摄像头监控客户,并在他们从货架上挑选物品时自动跟踪他们……

在报告中,我们研究了这项技术的部署地点,以及公司声称可以提供的功能。

我们还审查了计算机视觉科学家和其他研究人员的大量论文,以了解正在设想和开发的能力类型。

我们发现,如果应用于监视和营销,计算机科学家所追求的能力将创造一个令人恐惧的洞察性监视世界。

⚠️收集和存储视频以备不时之需的相机正在转变为可以主动监视所有人的设备,而且通常都是实时的。

一台无比强大的监控机器已经在我们周围成长起来,但是曾经,在很大程度上它是愚蠢和惰性的 —— 然而现在,从某种意义上来说,它正在“醒来”。

计算机正在变得越来越“好”,例如,所谓的“人类行为识别”功能。人工智能培训的数据集包括数以千计的计算机可识别行为 —— 例如戴上帽子、摘下眼镜、手伸进口袋、喝啤酒等等。

研究人员也在努力创造在所谓的“异常检测”方面表现更好的人工智能技术 —— 对任何“不寻常”、“异常”、“离经叛道”、或“非典型”的人发出警报;

⚠️它识别我们的情感、检测我们的感知、对我们行为的物理和社会背景深度理解,以及对我们运动模式广泛跟踪。

想想这些技术的一些含义,特别是与人脸识别等其他技术结合使用时。

例如,不难想象未来一位腐败的市长会对助手说:“这是我政府的敌人名单。让相机向我们发送这些人亲吻另一个人的所有实例,以及他们亲吻的人的身份。”

政府和公司可以使用AI代理来根据衣着、姿势、不寻常的特征或行为以及情绪来追踪谁是“可疑的”。

那些以某种方式脱颖而出并吸引如此警惕的相机注意力的人,可能会发现自己立刻受到了骚扰、审讯、被驱逐出商店,或更糟糕。

这些技术中的许多或大部分介于不可靠和完全虚假之间。

然而,根据经验,这往往不会阻止这些技术被部署 —— 并且也不会避免伤害无辜的人民。

而且,像许多技术一样,这些新监视能力的危险性将不可避免地落在已经处于不利地位的人群身上:有色人种、穷人、政治异议人士、和边缘人。

目前仍处于计算机视觉革命的早期阶段,我们不知道人工智能将如何发展,但我们需要记住,人工智能的进步最终可能会非常迅速。

在不久的将来,我们可能最终生活在机器人军队的严密监视之下,他们比人类更危险

这些人工智能监视者,如果不加以控制,可能会迅速增加到数十亿,代表企业和官僚权力扩展到我们生活的方方面面,密切跟踪每个人、并不断操纵每个人的行为。⚪️

在这里阅读完整报告:https://www.aclu.org/sites/default/files/field_document/061819-robot_surveillance.pdf

发表评论

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据