威廉·巴尔和小熊维尼:中美的老大哥本性相差无几

  • 很少有人对比这件事,但没人能反驳,在对权力的贪欲方面,几乎所有政府都是一样的。稳固权力的唯一最有效工具就是全面控制……

微信的中国用户无法彼此传递小熊维尼的图片。该应用程序包含文本、视频和图片消息以及 Facebook 风格的新闻提要(还有许多其他功能)。

但为什么不能传递一张图片?

因为小熊维尼矮矮胖胖的形象据称引起了对习近平的联想。因此,应中国政府的要求,微信审查了孩子们心爱的动画人物的照片,以打击民间对政府的批评。

在美国这里,只要总检察长愿意,Facebook 和其他美国寡头企业的服务将能够对您的任何私人聊天内容进行相同的处理。

去年,总检察长威廉·巴尔和国土安全部代理秘书以及英国和澳大利亚官员一起写信给 Facebook 负责人马克·扎克伯格(Mark Zuckerberg),信中要求Facebook 不要继续执行其端到端加密的计划。

10月4日发送的那封信恰逢司法部(DOJ)当天举行的一次活动,巴尔、英国和澳大利亚的反加密合作者、以及联邦调查局局长克里斯托弗·雷(Christopher Wray)等人都参加了。

这封信和该活动均着重于使用在线通信平台传输儿童性虐待材料(CSAM)的现象,并警告说,为消息传递应用添加端对端加密功能将阻碍执法人员的工作。简单说就是:经典借口四骑士之一。《四骑士是什么?它如何成为审查的经典借口?

那封信和该事件紧随着《纽约时报》发表的一篇有关 Facebook 等在线平台上的CSAM问题的文章所引起的热议。简单说,这些当权者在借助舆论热点满足自己的目的。

在参议员 Richard Burr 和 Dianne Feinstein 提议的审查法案令人尴尬地崩溃后三年多,巴尔的要求有可能是流传的反加密立法的先兆,反加密立法可能很快会出炉。

这是当前加密和反加密战争中的重大升级

自2016年初与苹果摊牌以来,美国政府就没有与哪家特定公司直接进行有关加密的对抗,当时政府似乎在认输(当然 ,无论如何这没有公开)。

而这一新举措的突然性令人震惊。

同样值得注意的是,突然将加密妖魔化的主要借口是儿童色情,而恐怖主义和其他弊端则是摆在第二位的。(“四骑士”包括:洗钱、毒品、恐怖主义和儿童色情)。

直到2019年7月下旬,当巴尔恢复了如他的前任那般谴责加密服务提供商的习惯时,他援引的仍是毒品借口。但是,儿童色情现在突然成为了重点。

毫无疑问,CSAM对于Facebook(以及曾经赋予用户上传、存储、发送、共享、发布或以其他任何方式传达文件的能力的每家科技公司)而言,是一个现实而严重的问题。

它具有放射性,在任何地方都是非法的,没有合法的公司希望在其服务器上存在这种东西。

但是,尽管如此,在复苏的反加密推动中,对CSAM的这种新的专心一意的态度,对美国政府来说就像是一个极度愤世嫉俗的举动。

在信息末日启示录的四骑士中(洗钱、毒品、恐怖主义和儿童色情),恐怖主义并没有使公众舆论反对加密,因此政府已经中流换马。

这也感觉像是对 “techlash 科技抵制” 的愤世嫉俗的利用。这一技术冲突使它在政治上更适合选择寡头公司-尤其是 Facebook。

毫无疑问人们会因为隐私问题而对 Facebook 表示不信任,因此,他们应该为 Facebook 在其更多服务中添加端到端加密功能而感到高兴,因为这会使 Facebook 侵犯用户隐私的能力至少降低。

为了 Barr 的目的,普通人(包括国会议员)实际上了解 Facebook 的端到端加密计划将做什么并不重要。

只是他们在加密和所谓的犯罪之间建立了一种心理联系,并且,将在 Facebook 平台上的犯罪活动问题与 Facebook 自身反复的隐私不当行为问题之间建立了另一层联系,从而使大众与隐私相关的不信任变成了对端到端加密的不信任。继而终结加密计划。

在与 Facebook 斗争努力增强几十亿人的安全和隐私的行动中,谁是最大的敌手?不是恋童癖者 — 或者说至少不是恋童癖者。

Barr、Wray 和他们的同僚们试图解决的所谓“问题”是人们能够私下交谈,而政府没有能力窥视他们。这在10月4日的那封信中表达得很清楚。

其中指出:“公司不应刻意设计其系统,以防止以任何形式访问其内容,甚至是为了防止或调查最严重的犯罪。”

只要专注于所谓的犯罪,一切都会好起来的对吗?

但是后来,这封信继续呼吁除了 Facebook 之外的 “其他公司” 也要有效地允许执法部门以可读和可用的格式合法访问其内容”。

他们说的很明白,他们想要获得一切,每个文本、每个私人消息、每个电话 …… 您通过互联网与他人进行的每一次通信都需要在当权者的眼皮底下进行。

当然,正如政府对科技行业惯常采取的劝诫模式一样,这封信没有说 Facebook “应该”如何去做。这是由于自90年代 Clipper Chip 失败以来,各国政府一直对提出具体建议持谨慎态度。

但是最近,政府在这方面发生了一些变化。

Wray 和前副总统 Rod Rosenstein 都在2017年底和2018年初倡导某种关键的代管方案。最近是在去年11月,GCHQ(英国国家安全局)提出了臭名昭著“幽灵协议”,要求科技公司悄悄地将政府间谍加入到公民的加密对话中

这反映了一个演变过程:总的来说,政府官员现在知道,如果他们要提出某种实际的建议(而不是陈述其访问纯文本的目标,然后将其留给科技公司以弄清楚如何实现该目标,就像10月4日的信一样),规则#1现在是“别碰加密”。

如果有人辩称 “该提议不是’后门’,也就是不需要破坏加密”,那么这将改变提议对安全性的影响 —— 多数执法人员可能希望将对用户安全的不利影响最小化(至少他们会努力这么声称)。

因此,它改变了信息安全专业人员的响应。由于公众从苹果对FBI的摊牌中已经获悉,“破解加密”和“后门”是个坏消息,这也改变了该提案在政府公关方面的外观。

输入“内容审核”。启用执法访问权限的一项建议是建立一个系统,供提供商(比如 Facebook)检查内容(例如 附在讯息上的照片),然后再加密它并传送给其他用户 —— 即 当内容在发送者的设备上时进行审查。

Jonathan Mayer 发表了一篇很好的简短分析,内容涉及端对端加密消息传递的内容审核的外观。

这是技术论文。这不是政策文件。Mayer 明确表示,他并不是在宣称自己所描述的概念“充分解决了信息安全风险或公共政策价值,例如言论自由、国际人权或经济竞争力”。

因此,明显的事实是:Facebook 或其他任何公司都不可能在不不可避免地陷入滥用的情况下为端到端加密消息引入内容审核。

它将从CSAM开始,一直持续下去,直到吞没一切;可预见的结果是监视和审查对隐私和言论自由彻底破坏

没错,客户端窥探在加密之前进行 “不会触及加密问题”,这与执迷于窥探加密的政府所宣称的保持一致;

然而,正如 ACLU 的 Jon Callas 在回应 GCHQ 幽灵提案时所说的那样:此“提案不会’破坏’加密,但是,通过造成人们不再确信自己是否正在与伙伴进行安全谈话的局面,它将产生与破坏完全相同的效果”。

内容审核的一种变体已经在各种情况下完成了。 Facebook 已经在扫描尚未尝试进行端到端加密的内容,这就是政府官员担心如果端对端加密过程继续下去有可能会消失的这部分可见性。

上传过滤本质上就与基本自由完全相悖。并且,如果在一对一或小组对话中将相同的想法应用于标记登上黑名单的内容(无论是文字还是图像),那就更麻烦了 —— 我们合理地认为这是私密的。

而且,如果提供商设计其消息传递服务以便自动扫描被列入黑名单的内容,不仅针对当局感兴趣的目标用户,还针对他们的电子设备本身发出了窃听指令,对于每位用户的对话都会自动进行扫描,这尤其令人不安。

Mayer 描述的技术措施旨在尽可能地尊重对话的隐私,并减少未加密内容的数量。设计提高隐私的技术来处理互联网垃圾场无疑是一个有趣的研究领域,即使令人沮丧。

而且表面上讲,我们目前正在谈论仅适用于CSAM的系统。但是,当您根据黑名单检查内容时(或模糊地尝试预测系统之前从未见过的内容是否应列入黑名单),最终您所谈论的是一整个系统,该系统保留了不得发布或共享的所有内容列表,并且监视并报告任何发布者

我们不会生活在一个始终将审查系统严格限制在儿童色情或恶意软件扫描范围之内的世界中,只要审查开始,就需要扫描一切。

这种情况已经在中国发生 —— 而且这越来越成为美国执法部门羡慕的对象。

中国一直在利用其在线审查功能,阻止其公民使用微信谈论小熊维尼或“天安门广场”,还有一系列敏感词。

想想看,一个端到端加密消息传递的审查系统,该系统将在对内容进行加密之前进行客户端扫描、并报告给审查者?中国将急于为这项技术提供资金,而且很可能已经有了

钟情于审查制度的家伙可不仅限于中国。

在美国的好莱坞,其版权至上主义的观点长期以来一直在国会受到青睐,因此,他们将很高兴能够过滤掉你的私人对话;

其他西方民主国家,例如欧盟国家和新西兰,都希望对您的端到端加密邮件进行预扫描,以查找所谓的“诽谤和暴力”内容。

不必介意定义“暴力极端主义内容”有多难,更不用说准确地识别没有确定为虚假的内容了,事实上,这些借口作为一种概念已经涵盖了在许多国家完全合法的言论 —— 当权者在确定什么是事实、什么是暴力。

审查要求不仅限于图像,还包括文本。Daphne 讨论了去年开始欧盟法院判决强加的一项过滤所谓的诽谤性文字的要求。

从四骑士、到六骑士、到七骑士…… 黑名单不断扩大。

讨厌男性生殖器照片?好的,只需要求 Facebook 在其端到端加密消息应用程序中实施裸露过滤器,在某些情况下可能会为您提供帮助。但是,当他们部署乳头检测系统时,不要感到惊讶,您已经无法通过 Messenger 或 WhatsApp 向您的浪漫伴侣发送裸照。

你仔细想想就能知道,不论多少个骑士,一切都是一样的荒谬借口。“仇恨言论”是无法定义的,但是这不会阻止对其进行审查的呼吁,这些借口从情感层面而不是宪法权利层面抓住人们的冲动。

再一次,启发性来自中国:在最新版本的iOS中,软键盘不再包含台湾国旗表情符。而且不允许用户发送包含该标志的消息。

如果政府禁止您说某些事或描绘某些图片,这就是所谓的事前约束,除了极少数例外,这几乎总是违宪的。

当平台应政府的要求进行操作时,就像 Barr 要求 Facebook 采取的做法那样,我们将其称为“内容审核”。这意味着政府命令私人第三方审查在任何尊重人权的制度下都合法的言论。

不要忘了,这些措施并不能捕获他们打算阻止的所有内容。如 Mayer 所述,用户仍可以单独加密其内容,然后再发送。

这意味着恋童癖者可以在传输 CSAM 之前对其进行加密;于是,这种审查只能捕捉到对安全操作技巧不熟悉的人,而真正的犯罪分子会不断提升其绕避审查的能力。

同时,好莱坞将确保您不能轻松通过 WhatsApp 向某人发送meme,除非您付出额外的努力首先对其进行单独加密。

这让人不寒而栗 —— 有多少人想花时间分别加密所有内容?

当然 ,自我审查、谐音字,都可能绕避过滤器,就像中国用户熟练的那样,但是,过滤器也会不断更新,直到淹没你可用的所有谐音字。因此,您不能再说任何被禁止的单词、不能再共享被禁止的图像。然后,最终,您也不再思考那些问题了。

“当然,我们绝不会仅仅因为我们在做X而继续做Y,” 最初平台和政府会向您这样保证。然而他们很快就会做Y,然后你就会听到他们对你这样解释:“当然,我们绝不会仅仅因为我们在做Y而继续做Z” ……以此类推。

如果你不信,去看看中国吧。

首先,中国当局对维吾尔族人的高度侵入性监视最初“仅仅”针对维族人。然后,就是针对所有出入新疆的人,不论游客的宗教信仰或种族如何。再然后,就是扩展全国……

端到端加密是我们能对战肆无忌惮的监视并维护自己的安全性和隐私性的最佳措施之一。但是,尽管可能需要端到端加密来保护基本人权,但还远远不够,针对客户端过滤之类的建议就已经表明了这一点

不论当权者找到多少个骑士,目标都是相同的:政府要有能力窃听您的每一次谈话,法律上的权力要求记录您的所有对话,并授权私营部门提供商在此过程中采取任何不要脸行动以满足政府需求。

当权者就是要完全控制。而且,如果他们真的成功了,他们将达到监控的至高境界:甚至不需要施加控制来限制您所说的话、做的事、以及听到和思考的任何东西 —— 因为您已经被自动化了,自我审查就能满足一切

以上的一切都是显而易见的事实,但是,只要司法部长仍在继续假装辩论只是关于所谓的恐怖主义和儿童色情等普遍受到谴责的行为,那么上述这些废话就仍然需要继续说下去。

请记住这是基本原则:任何政府要求平台建立监视和审查每个人的私人通信的能力都是不合理的。无所谓是美国还是中国还是欧洲

技术人员正在设计和构建的系统恰恰承认了那个最令人不安的事实:在老大哥的本性方面,美国和中国的差异比你想象中要小得多。⚪️

WILLIAM BARR AND WINNIE THE POOH

作者 Riana Pfefferkorn 是斯坦福大学互联网与社会中心的监视与网络安全部门副总监。

发表评论

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据