警察国家的梦想

还记得我们在对 “操纵式宣传” 的分析中所解释的*前宣传*概念吗?

直接灌输是没有多少人会接受的,但是,如果你预先将你的目标变成大众乐于接受的亚文化,之后你再提出你需要人们接受的东西,就会非常容易了。

如果错过了,在这里看到《操纵式宣传:五个过滤器和识别线索

技术角度上也一样。而且可以做得更加难以被察觉。想想看,如果你想要为大众灌输“警察国家是理所当然的”,肯定所有人都会反对你;但是,当 “智能音箱是高科技美好生活的标配” 这一理念已经变成一种价值观甚至亚文化时、当越来越多的人购买了这种东西塞进他们的家里后……你理想中的警察国家就已经实现了。

Leor Grebler 说出了这一点。他是 UCIC 的创始人(Unified Computer Intelligence Corporation)以下是他的文章。

两年前,我终于有时间坐下来读我的祖父 Eliahu Grebler 的回忆录了。在其中,他谈到了他和我祖母在闪电战期间面对纳粹威胁时逃离波兰的悲惨遭遇。

他们差点没能逃脱德国空军对逃亡难民队伍的大屠杀和扫射。

从小就接触到这些关于大屠杀的故事,这些故事都奠定了我对自由和政治制度的看法。

自由可以是短暂的,政治制度可以迅速破坏稳定,只能依赖于人们善意行事的信念,偏见与经济学成反比。

尽管在年轻时就意识到人类历史上最可怕的暴行,但我仍然是一个铁杆乐观主义者,特别是在技术方面。

也许你可以把我放在“技术解决一切”的信徒阵营中 —— Ray Kurzweil 和 Peter Diamandis 都在这个阵营里。

然而,如果你展望未来二十年的话就会看到,技术进步将完全黯然失色 —— 尤其是那些围绕机器人、医学和人工智能的技术。

令人担忧的是,只有极少数不良行为者才能控制大多数人口,那些拥有先进技术的人将获得如此巨大的优势,那些无法拥有技术的人将被视为完全无能

技术本身没有道德感,但却是掌握它​的人的武器。

即将出现的问题是,如此多的新工具如此地强大,以至于如果有人选择将它们用于邪恶目的,其影响将是毁灭性的。

哲学家 Nick Bostrom 在他的“脆弱世界假说”中将这些潜在的灾难诱导技术称为“黑球”。

如果人类发现了如此强大的技术,他们就必然会用它来摧毁自己。

他提出了一个论据:要么削减技术进步,要么围绕可能导致黑球被吸引的技术构建约束框架。

虽然我不相信我们是如此脆弱,但我确实害怕那些想要造成伤害的人;并且,即使是出于自称更崇高的目的,也可以轻松地利用现有的或即将推出的技术造成灾难

考虑到这一点,我们首先应该看一下人类与技术之间的关系类型、以及我们为自己提供的信息。

我们需要了解如果政府或坏人决定将这些数据用于恶意目的其结果会发生什么。

还需要注意当权者的监视可以采取的一些新方法,他们想要怎样进一步控制或影响我们?

在深入研究之前,需要首先承认,目前世界上大多数政府都可以完全访问我们的私人信息。

在手机、路由器、笔记本电脑、甚至内置低级硬件控制芯片的所有产品中都可以找到后门。

这些 hack 不仅影响消费者设备,而且意味着,任何通过受损基础设施的东西都很容易受到间谍活动的影响

交换机、电信基础设施和数据中心都已受到损害并被用于监控。

当政治体制总体稳定、有制衡机制、健康强大的司法制度、以及经济状况良好时,也许可以容忍政府机构在法律之外行一点事。

但是,如果上述这些完美状况出现任何改变呢?

对恶意行为者来说,最触手可及的是任何公开表达的对当权者的批评。Facebook 上的任何帖子、任何推文、中文文章。

这并不需要大量人力来监视。有很多脚本可以把这些帖子刮出来、还有围绕语言情感分析的新工具,都可以快速实现这一思想警察的自动化过程

思想警察的工作可以快速扩展并实施以进行持续的监控。任何人发布了关于掌权者的坏话,他们就会立即知道。

同样,公共信息被用来影响大众,认知操纵,在2016年的美国大选中已经充分看到了这一点。

只有一小群人(几十人到几百人)能够在适当的时候强化政治观点、操纵媒体和人民,散布错误信息,甚至举办政治活动

这只是坏人的智能部署 —— 甚至没有人工智能或自动化。如果这种情况在更大范围内实现会发生什么?如果机器人就可以做到这一点会发生什么?

除了人们自己公开披露的信息之外,监控还可以通过各种自动化进行扩展,使任何持不同政见者都很难在没有被发现的情况下存在于公共场所。

面部识别已经变得更准确、更快速、并且需要更少的计算。现在,您可以扫描一大群人,并在几秒钟内识别出每一张脸。一个摄像机无法识别的面部可以在移动到另一个摄像机视野内时被识别出来。

还可以将关于被跟踪人的年龄、性别、和情绪状态的诸多附加信息全部标记进去。想要避开这样的监视系统可能需要特殊的化妆或伪装。(在这里看到《让面部识别失效的思考方式》)

在1984里,麦克风随处可见。人们甚至担心在田间存在窃听他们的麦克风。

奥威尔可能没有想到“自由世界生活”的人们将麦克风阵列直接放进了自己的家里和办公室里,并且,随身携带着一个360度摄像头,同时还有麦克风和传感器的实时监视设备 …… 能确保政府监视不会错过任何一个词语。

注:Facebook 已经实现了这一点,详见《Facebook 给了全球当权者一个终极暴政蓝图

当 Echo 出现时(也就是两年前,当时我和我的同事联合推出了 Ubi),它的隐私承诺来自这样一个事实,即 设备实际上没有窃听,直到你说“Alexa”。

自该原始版本发布以来,亚马逊将此本地唤醒词更新为“基于云的唤醒词验证”。

亚马逊可以通过缓冲设备上的一些音频然后将此音频以及口语“Alexa”发送到亚马逊来改进唤醒词的性能。

如果事实能证明设备本地检测到“Alexa”但云服务未检测到“Alexa”则会关闭音频流,那还可能会好一点。但是 …… 你将在“谷歌和亚马逊”栏目中看到的那些惊人消息可不是这样的,亚马逊录制了用户洗澡的声音,还将这些声音发给了你完全不知道是谁的人。这只是诸多案例这一。

最近,亚马逊还宣布了“Alexa Guard”,当有人离家时,它会在设备上本地监听音频事件,如果听到可疑的声音(例如玻璃破碎),可能会提醒该人。

更多听到和理解的能力被带到了“边缘”,意味着我们再也不能放心了,即使像 Echo 这样的设备没有流式传输我们的现场音频,他们也无法理解我们并随时将声音背景传递给外部服务。

今天,语音已经可以被用于识别人的身份了。很快,它也可以用来确定你的情绪状态、你的性别、以及精准的位置,和你的健康状况

在使用这些设备时还需要考虑的是,亚马逊向您出售这些东西是有明确的赚钱意图的,但是,政府掌握这些设备的运行并不需要太费劲,⚠️在所有家庭都需要它们的时候,更新固件,以便不间断进行流式传输和分析音频,以监视任何反政府活动

Google Home,Apple HomePod 和 Earpods,Amazon Echos,Ring 和 Nest Cams …… 以及各种联网设备为人们提供了很多的便利。

但是,请随时记得,这些为你提供便利的东西随时都能在你不知不觉中变成警察国家的武器。

A Police State’s Dream

发表评论

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据