虚假地球 [video]

  • 军事计划的基础是对地形准确的理解以便作出最恰当的计划,然而,一种新型的难以被发现的造假技术正针对这点以愚弄行动策划者,尤其是对于新闻业才刚兴起的开源调查来说,这是一场惊人的真相危机。中国又在其中扮演了什么角色?

第1步:使用AI对室外照片进行无法检测的更改。第2步:将它们释放到开源世界,享受混乱带来的刺激。

对于深度造假的担忧 — — 机器操纵的名人和世界领导人的视频描述他们从来没有说过的话没有做过的事 — — 与新的威胁相比简直不足为奇:关于对地球本身的图像篡改。

中国是这方面公认的领导者,他们使用一种名为生成对抗网络的新兴技术来诱骗计算机“观察到”并不存在的景观或卫星图像中的物体,国家地理空间情报局 CIO 技术理事会的自动化负责人 Todd Myers 说。

“中国人远远领先于我们。这不属于机密信息,“Myers 在由 Defense One 和 Nextgov 主持的第二届年度天才机器峰会上表示,“中国人已经设计好了;他们现在已经在使用 GAN(生成对抗网络)来操纵场景和像素,以便出于各种原因创造假货。“

例如,Myers 说,对手可能会欺骗你的计算机辅助图像分析报告一座桥在特定点有一条重要的河流穿过。

“因此,从战术角度或任务规划角度来看,你要训练你的部队走向某条路,走向一座桥,但它并不存在。然后就会有一个很大的震惊等着你,“他说。

首次描述于2014年,GAN 代表了神经网络学习查看和识别物体甚至从虚构中发现真相的方式的巨大演变。

假设你要求传统神经网络找出卫星照片中的物体。网络会将图像分成多个部分或像素簇,计算这些碎片如何相互关联,最终确定物品是什么,或者照片是真实的还是被篡改过的。这一切都基于观看大量卫星照片过得的经验。

GAN 则通过将两个网络相互对抗来反转这一过程 — 因此称为“对抗性”。传统网络可能会说,“这些像素集群中x、y和z的存在意味着这是猫的图片。” 但是 GAN 网络可能会说,“这是一张猫的照片,因此必须存在x,y和z。什么是x,y和z以及它们如何相关?“ 对抗性网络学习如何构造或生成x,y和z,以便说服第一个神经网络或鉴别器,当某些东西存在时,或许它不是特定的物品。

许多学者发现 GAN 对于发现物体和从假物品中分类有效图像很有用。 2017年,中国学者开始使用 GAN 识别卫星照片中的道路、桥梁和其他特征。

正如人工智能技术专家去年告诉 Quartz 的那样,人们担心的是,同样能够辨别真假桥梁的技术也可以帮助创建人工智能无法从真实事物中分辨出来的虚假桥梁

Myers 担心,当世界依靠越来越多的开源图像来理解物理地形,只需在开源图像供应线中输入一些专业操作的数据集就可能造成严重破坏。

“忘记[国防部]和[情报界]吧。想象一下,谷歌地图是否有目的地被渗透?想象从现在开始特斯拉[自驾车]半决赛五年后的路线?“他说。

当谈到关于人物的深度虚假视频时,脉冲和语音等生物识别指标可以打败虚假效果。但是伪造的景观并不容易受到同样的技术挑战。

即使您可以击败 GAN,许多图像识别系统也可以通过对环境中的物理对象添加小的视觉变化来愚弄,例如,添加人类驾驶员几乎无法察觉到的标志贴纸就可以令机器视觉系统出错,正如 DARPA 项目经理 Hava Siegelmann 所证明的那样。在这里看到视频:

Myers 说,军事和情报界可以击败 GAN,但是这项工作耗时且昂贵,需要多次重复收集卫星图像和其他确凿的证据。“对于每一个集合,你必须重复收集不同来源的内容,否则,就是单一信源。”

挑战既是技术挑战,也是财务挑战。

“最重要的是确保你可以得到我刚才谈到的任务所需的资金,”他说。

美国官员已经证实,数据完整性是一个日益严重的问题。 “这是我们在保护数据方面所关心的事,因为如果你能获得数据,你就可以投毒、破坏、欺骗和否认以及做所有其他事,” Jack Shanahan 中将说,他负责管理五角大楼新的联合人工智能中心,“我们有一个强大的保护数据计划。如果你得到了数据,就可以得到这个模型。“

但是,当涉及到保护开源数据和图像的问题时,新闻机构的每个人、公民和人权组织正使用对冲基金来确定什么是真实的和什么不是,那么如何保护它的问题是令人恐惧的。政府可以获得的“真相”与公众可以获得的“真相”之间的差距可能很快变得不可逾越,这将进一步削弱国家安全界的公信力和民主体制的运作。

美国中央情报局数字理事会负责人安德鲁·霍尔曼(Andrew Hallman)形容其为史诗级的冲突。Hallman 说:“我们正处于数字领域真理的存在主义斗争中。这也是私营部门的帮助和这些数据提供者的重要性。因为坦率地说,我们所处的数字冲突,在那个战场上……这是我的最高优先事项之一。“

当被问及他是否觉得中央情报局牢牢掌握了开源领域虚假信息的挑战时,Hallman 说:“我想我们已经开始了。我们刚刚开始了解到问题的严重性。“

关于深度造假,更多详细报告《当恶意者掌握技术:信息战的未来究竟有多可怕?

Step 1: Use AI to make undetectable changes to outdoor photos. Step 2: release them into the open-source world and enjoy the chaos. The Newest AI-Enabled Weapon: ‘Deep-Faking’ Photos of the Earth

广告

发表评论

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据