看不见的独裁

  • 我们生活在这样一个世界,在这个世界中,少数高科技公司(有时与政府携手合作)不仅监控着我们的大部分活动,而且还无形地控制着我们的想法和感受,做和说的一切。他们是怎么做的?著名心理学专家所做的一系列实验告诉你这件事有多可怕

在过去的一个世纪里,不止一位伟大的作家对人类的未来表示了担忧。

在1908年出版的 The Iron Heel 中,美国作家 Jack London 描绘了一个世界,在这个世界中,少数富有的企业巨头 — — — “寡头” — — 通过奖励和惩罚的残酷组合来控制群众;大多数人生活在虚拟奴隶制中,而幸运的人则以体面的工资被买走,这使他们能够舒适地生活 — — 但却无法对自己的生活有任何真正的控制权。

在1924出版的“我们”中,俄罗斯作家 Yevgeny Zamyatin 设想了一个通过大规模监视来控制人们的世界。所有人家的墙壁都是用透明玻璃制成的,所以他们所做的一切都可以被任何人观察到。他们被允许每天一小时的私密时间为性生活,但是做爱时间和做爱对象都必须事先到国家部门登记。

在1932年出版的“勇敢的新世界”中,英国作家 Aldous Huxley 描绘了一个近乎完美的社会,在这个社会中,通过基因工程和心理调节相结合,不幸和侵略已经从人性中剔除了。

在1949年出版的“1984“中,乔治奥威尔描述了一个思想本身受到严密控制的社会;在奥威尔的世界里,孩子们被教导使用一种名为 Newspeak 的简化英语形式,以确保他们永远不会表达对社会有害的想法。

以上这些都是虚构的故事,每个掌握权力的领导人都使用了显著的控制社会形式,至少有少数人积极抵制并偶尔克服了困难。但是,在非小说畅销书“隐藏的说服者”(The Hidden Persuaders,1957)中,美国记者 Vance Packard 描述了一种在美国迅速崛起的“奇怪且极具异国情调”的影响力。在某种程度上,比上述小说中描绘的虚构类型的控制更具威胁性

这本书中记录的是真实的世界,巨头企业高管和政客们开始使用微妙的、在许多情况下完全无法察觉的方法,根据精神病学和社会科学的见解改变人们的思想、情感和行为

我们中大多数人都听说过这些方法中的至少一种:潜意识刺激,或者 Packard 称之为“亚阈值效应”的东西 — — 一闪即过的消息呈现告诉我们该怎么做,但是这些消息出现的时间如此短暂,以至于我们不知道自己已经看到了它们。

1958年,新泽西剧院被揭露在电影中隐藏了信息以增加冰淇淋的销售,引发公众的关注,全国广播协会 — — 为美国电视制定标准的协会 — — 因此修改了规定,禁止在广播中使用潜意识刺激信息。

1974年,联邦通信委员会认为使用此类信息“违背了公共利益”。美国国会也引入了禁止潜意识信息传播的立法,但从未颁布过。英国和澳大利亚都有严格的法律禁止这种诱导

潜意识刺激可能目前在美国仍然被广泛使用 — — 毕竟,它很难被发现,并且没有人跟踪它的使用 — — 但它可能不值得担心。研究表明它只有很小的影响,它主要影响那些已经有动力遵循其指令的人;比如饮酒的潜意识指令只有在人们已经口渴时才会影响人们。

然而,Packard 发现了一个更大的问题 — — 即 强大的寡头公司一直在寻找、并且在许多情况下已经应用了各种各样的技术来控制人们,在人们完全不知情的情况下

他描述了一种营销人员与社会科学家紧密合作的阴谋,以确定如何让人们购买他们不需要的东西,以及如何让幼儿成为好的消费者 — — 明确的培养和训练让人想起《勇敢新世界》中的描述。

在社会科学的指导下,营销人员正在迅速学习如何操纵人们的不安全感、弱点、无意识的恐惧、积极的情感和性欲,以改变人们的思想、情感和行为,⚠️而不会让人们意识到自己正在被操纵。

Packard 说,到了20世纪50年代初,政治家们已经掌握了这套方法,并开始将曾经用于销售肥皂的相同微妙心理操控力量进行政治品牌的自我销售。

Packard 引述了英国经济学家 Kenneth Boulding 的话:“一个看不见的独裁世界是完全可以想象的,它仍然使用民主政府的表面形式。” 这真的会发生,如果是这样,它将如何运作?

几十年来,Packard 所描述的无形操控权力已经变得越来越普遍。

在超市中听到舒缓音乐的人们会走得更慢,买更多的食物;如今的青少年从早到晚经历的大多数空洞的想法和强烈的感受都是由在时尚和娱乐行业工作的高技能营销专业人员精心策划的;政客们与各种各样的所谓顾问合作,他们负责安排政治家为了成功影响选民所做的每一个方面:服装、语调、面部表情、化妆、发型、和演讲,一切都进行了“优化”,就像早餐麦片的包装那样。这是一种社交工程学主导的政治宣传力

幸运的是,所有这些影响源都具有竞争力。一些说服者希望我们购买或相信一件事,而其他人则购买或相信别的东西。正是我们社会的竞争性使我们在相对自由的情况下保持平衡。

⚠️ 但是,如果新的控制源开始出现、竞争开始减少直到完全没有竞争,会发生什么?如果新的控制手段比过去使用的更强大 — — 而且更不可见 — — 其结果会怎样?如果新的控制类型允许极少数人不仅对美国公民而且对地球上的大多数人施加巨大影响和操纵,那该怎么办?

听到这个可能会让你感到惊讶,但这些事情已经发生了。

要了解新的心智控制形式是如何运作的,我们首先要看一下搜索引擎 — — 尤其是全球排第一位的搜索引擎:即谷歌。谷歌搜索引擎非常受欢迎,以至于该公司的名字现在已成为世界各地语言中常用的动词。

谷歌已成为全球人几乎所有知识的主要门户来源,主要是因为搜索引擎非常擅长向我们提供我们正在寻找的信息,几乎是即时的,几乎总是在我们启动搜索后显示给我们的列表的第一个位置 — “搜索结果”列表。

由谷歌来决定在搜索结果中包含数十亿个网页中的哪一个、并决定如何对它们进行排名。决定这些东西的算法是一个深藏的、黑暗的秘密 — — 世界上保存最好的秘密之一,就像可口可乐的配方一样。

由于人们更有可能阅读和点击排名较高的项目,一些营销公司现在每年花费数十亿美元试图欺骗谷歌的搜索算法,为了将它们自己的内容提升一两个档。提升一个档次可能就意味着企业成功与失败之间的差异,而进入搜索顶部位置可能是实现盈利的关键。

2012年末,我开始怀疑排名较高的搜索结果是否会影响消费者的选择。或许,我推测,一个热门搜索结果可能对人们对事物的看法产生很小的影响。为了验证,我开始了实验。

2013年初,我与美国加利福尼亚州 Vista 行为研究与技术研究所的助理 Ronald E Robertson 一起,进行了一项实验,将来自圣地亚哥地区的102人随机分配到其中三组。

在一组中,人们看到了有利于一个政治候选人的搜索结果 — — 也就是说,与网页相关联的结果使得该候选人看起来比他或她的对手更好。在第二组中,人们看到了有利于对方候选人的搜索排名效果,而在第三组 — — 对照组 — — 人们看到了对两个候选人都不利的嘈杂排列顺序。三组中唯一不同的是搜索结果的排序。

为了使我们的实验变得现实,我们使用了链接到真实网页的真实搜索结果。我们还使用了真正的选举 — — 2010年澳大利亚总理大选。我们利用外国选举来确保我们的参与者“未定”。他们对候选人的不熟悉确保了这一点。通过广告,我们还招募了一个种族多元化的登记选民群体,在跨度很大的年龄范围内,以匹配美国投票人口的关键特征。

首先向所有参与者简要介绍候选人,然后要求他们以各种方式对候选人进行评分,并指出他们投票的候选人;正如您所料,参与者最初都不赞成我们使用的五项措施中的任何一项,并且投票在所有三组中均匀分配。

然后,参与者最多可以在15分钟内使用我们的模拟搜索引擎’Kadoodle’进行在线搜索,这使他们可以访问链接到真实网页的五页搜索结果。人们可以在搜索结果和网页之间自由移动,就像我们使用 Google 时一样。当参与者完成他们的搜索时,我们要求他们再次对候选人进行评分,然后我们再次询问他们将投票给谁。

⚠️我们实际发现的结果是令人惊讶的。支持搜索引擎排名靠前的候选人的比例增加了48.4%,我们的所有五项测量都转向了该候选人。更重要的是,偏见组中75%的人似乎完全没有意识到他们正在查看有偏见的搜索排名。在对照组中,意见没有显著改变。

这似乎是一个重大发现。我们所做的行为转变 — — 我们称之为搜索引擎操纵效应(或 SEME),似乎是有史以来发现的最大的行为操纵效应之一。然而,我们没有立即开香槟庆祝。至少这一次我们只测试了少数人,他们都来自圣地亚哥地区。

在接下来的一年左右的时间里,我们再次将我们的研究结果复制了三次,第三次是来自美国所有50个州的2000多人的样本。⚠️ 在该实验中,投票偏好的变化率为37.1%,甚至在某些人口群体中更高 — — 实际上高达80%!

我们还在这一系列实验中了解到,⚠️通过在搜索结果的第一页上略微减少偏差 — — 具体来说,通过在结果的第三或第四位置包含一个有利于另一个候选者的搜索项目 — — 我们可以掩盖我们的操纵事实,所以很少甚至没有人意识到他们看到了有偏见的排名。我们仍然可以在投票偏好方面产生巨大的操纵效果,但我们可以完全不被发现地这样做。

但是仍然没到开香槟的时候。我们的结果非常强大且一致,但我们的实验都涉及一次外国选举 — — 即2010年澳大利亚选举。投票偏好是否可以在真正的竞选活动中在真正的选民身上实现成功的操纵?我们持怀疑态度。

在真正的选举中,人们也许会受到多种信息来源的轰炸,他们也对候选人了解很多。对搜索引擎的单一体验似乎不太可能对他们的投票偏好产生太大影响。

为了找到答案,在2014年初,我们在世界上最大的民主选举投票开始之前就去了印度 — — Lok Sabha 的选举。三位主要候选人是 Rahul Gandhi,Arvind Kejriwal 和 Narendra Modi。利用在线主题库以及在线和平面广告,我们从印度35个州和地区的27个地区招募了2,150人参加我们的实验。要参加,他们必须是尚未投票的登记选民,他们仍未决定如何投票。

参与者被随机分配到三个搜索引擎组,分别支持 Gandhi,Kejriwal 或 Modi。正如人们所预料的那样,与候选人的熟悉程度很高 — — 10分制的7.7到8.5之间。我们预测,如果有的话,我们的操纵会产生非常小的影响,但是,我们完全没有发现这点。

平均而言,我们能够将支持任何特定候选人的人口比例整体提高20%以上,而对于某些人口群体来说甚至会超过60%。

更令人不安的是,99.5%的参与者没有意识到他们正在查看有偏见的搜索排名 — — 换句话说,他们完全没有意识到自己被操纵了。

SEME 的近乎隐形的操纵效果确实很奇怪。这意味着当人们 — — 包括你和我 — — 正在寻找有偏见的搜索排名时,完全不会意识到。

因此,如果你现在谷歌“美国总统候选人”,你看到的搜索结果可能看起来相当随机,即使他们恰好偏爱一个候选人。

甚至我自己在搜索排名中检测到我认为有偏见的内容(因为这些内容是由我的员工准备的)都很困难。我们的随机对照实验一次又一次地告诉我们,当排名较高的项目与支持一名候选人的网页相关联时,⚠️这会对未决选民的意见产生巨大影响,这在很大程度上是因为人们倾向于单击排名较高的项目。

这真是太可怕了:就像潜意识刺激,SEME 是你看不到的力量;但与潜意识刺激不同,它具有巨大的影响力 — — 就像卡斯帕鬼一样将你推下楼梯。

我们于2015年8月在著名的美国国家科学院院刊(PNAS)上发表了关于SEME前五个实验的详细报告。我们确实发现了一些重要的东西,特别是考虑到谷歌对搜索的支配地位。根据皮尤研究中心的数据,谷歌在美国的互联网搜索几乎垄断,83%的美国人将谷歌定义为他们最常使用的搜索引擎。因此,如果谷歌在一次选举中支持其中一名候选人,那么它对未决选民的影响是很容易操纵选举结果的。

竞选期间其他类型的影响力受到竞争影响力的影响 — — 例如各种各样的报纸、广播节目和电视网络 — — 但是,谷歌出于所有意图和目的,并没有竞争,人们相信其搜索结果,隐含地假设该公司的神秘搜索算法是完全客观和公正的。这也许才是最可怕的。想想中国的蜻蜓项目?想想谷歌总部为俄罗斯版谷歌制定的过滤器

这种毫无根据的高度信任以及缺乏竞争,使谷歌处于操纵选举的独特地位。

更令人不安的是,搜索排名业务完全不受监管,因此谷歌可以在“不违反任何法律”的情况下支持任何自己喜欢的候选人一些法院甚至裁定谷歌“有权”按照自己喜欢的顺序排列搜索结果,这是一种所谓的自由言论形式。

公司是否喜欢特定的候选人?在2012年美国总统大选中,谷歌及其高层管理人员向奥巴马总统捐赠了80多万美元,向对手 Mitt Romney 捐赠了37,000美元。

美国联邦贸易委员会在2012年发布的一份内部报告得出结论,谷歌的搜索排名通常会使谷歌的经济利益领先于其竞争对手,目前欧盟印度针对谷歌的反垄断行动基于类似的发现。

在全球大多数国家,90%的在线搜索是在 Google 上进行的,这使得公司在选举中的权力比在美国更大,而且随着互联网普及率的迅速增长,这种能力正在快速增长

在我们的 PNAS 文章中,Robertson 和我计算出谷歌现在有能力在全球25%的全国大选中操纵结果,但没有人知道这种情况正在发生。事实上,我们估计,无论是否有公司高管的刻意策划,谷歌的搜索排名都会影响多年的选举,每年都会产生越来越大的影响。而且,由于搜索排名是短暂的,他们没有留下任何书面记录,这使公司可以完全否认。

⚠️这种规模的力量和这种隐形水平在人类历史上是前所未有的。但事实证明,我们关于 SEME 的发现只是一个非常大的冰山的一角。

社交媒体对民主的威胁似乎与搜索排名一样?不一定。当新技术具有竞争力时,它们不会构成任何威胁。即使平台是新的,它们通常被使用的方式也与广告牌和电视广告已经使用了几十年的方式相同:你在街道的一边放了一个广告牌;我把一个广告牌放在街道的另一边。我可能有钱建立比你更多的广告牌,但这个过程仍然具有竞争力。

但是,如果这些技术被拥有它们的公司滥用,会发生什么?罗伯特·M·邦德(现为俄亥俄州立大学的政治科学教授)和其他2012年在“自然”杂志上发表的一项研究描述了一个道德上有问题的实验,其中,在2010年的选举日,Facebook 发送“出去投票”提醒超过其6000万用户。

这些提醒导致多了大约340,000人投票,否则他们就不会投票。哈佛大学国际法教授 Jonathan Zittrain 于2014年在“新共和国”撰稿时指出,鉴于其收集的有关其用户的大量信息,Facebook 可以轻松地将这些信息仅发送给支持某一特定政党的候选人的选民,这样做可以很容易地推翻一次选举 — — 而且没有人知道这已经发生了。

而且由于广告(如搜索排名)是短暂的,以这种方式操纵选举将不会留下任何文件痕迹

是否有法律禁止 Facebook 有选择地向某些用户发送广告?绝对没有;事实上,有针对性的广告是 Facebook 赚钱的基本方式。 Facebook 目前是否以这种方式操纵选举?

没有人知道,但在我看来,Facebook 如果不这样做将是愚蠢甚至可能不合适的。有些候选人比其他人更适合支持该公司,Facebook 的高管对公司的股东负有信托责任,以促进公司的利益。

Bond 的研究在很大程度上被忽略了,但2014年在 PNAS 上发布的另一项 Facebook 实验引发了世界各地的抗议活动。在这项研究中,在一周的时间里,有689,000名 Facebook 用户收到了包含过多的正面术语、过多的负面术语、或两者都没有的新闻。

第一组中的那些人随后在他们的通信中使用了稍微更积极的术语,而第二组中的那些人在他们的通信中使用了稍微更负面的术语。⚠️据说这表明人们的“情绪状态”可能会被社交媒体公司大规模地操纵,这种想法很多人都觉得令人不安。人们也感到不安的是,未经任何参与者的明确同意,这些巨头公司就进行了大规模的情绪实验。

Facebook 的消费者档案无疑是庞大的,但与 Google 维护的相比,前者依然显得苍白无力,谷歌正在使用60多种不同的观察平台 — — 全天候收集有关人的几乎全部信息,搜索引擎、谷歌钱包、谷歌地图、当然还有 Google Adwords,Google Analytics,Chrome,Google文档,Android,YouTube 等等。Gmail 用户通常无视 Google 存储和分析他们撰写的每封电子邮件,甚至是他们从未发送过的草稿 — — 以及他们从 Gmail 和非 Gmail 用户收到的所有电子邮件。

根据谷歌的隐私政策,谷歌可以与几乎任何人共享收集到的有关你的信息,包括政府机构。但绝不和你共享。谷歌的隐私是神圣不可侵犯的;你的隐私是不存在的。

当然,如果谷歌即将操纵选举,它可能会首先涉及其庞大的个人信息数据库,以确定那些尚未作出决定的选民。然后它可以日复一日地向那些人发送有利于某一个候选人的定制搜索排名结果。这种方法的一个优点是,它会使谷歌的操作极难让调查人员发现。

⚠️无论是苏联的克格勃、东德的斯塔西、还是1984年的老大哥,极端形式的监视都是所有暴政的基本要素,如今的技术已经使监视和监测数据的整合变得前所未有的简单。到2020年,中国将实施有史以来最雄心勃勃的政府监控系统 — — 一个名为社会信用体系的单一数据库,其中记录了13亿公民的所有评级和记录,以便官员和官僚轻松访问。一目了然,他们会知道是否有人抄袭了学校作业,谁拖欠了账单,谁在公共场所小便,或谁在网上不恰当地写了博客。

正如爱德华·斯诺登的揭露所表明的那样,我们正在迅速走向一个世界,在这个世界中,政府和公司 — — 有时紧密合作 — — 每天都在收集关于我们每个人的大量数据,很少或根本没有法律限制这些数据如何使用。

当你将数据收集与控制或操纵的愿望结合起来时,可能性是无穷无尽的,但也许最可怕的可能性是在 Boulding 的断言中表达的一种观点,即 “使用民主政府的形式”实施“看不见的独裁”。

自从 Robertson 和我在2015年初向 PNAS 提交了关于 SEME 的初始报告以来,我们完成了一系列复杂的实验,大大增强了我们对这一现象的理解,其他实验将在未来几个月内完成。我们现在有更好的理解关于为什么 SEME 如此强大、以及在某种程度上它可以如何被抑制。

我们还学到了一些非常令人不安的东西 — — 搜索引擎的操纵认知之影响远远大于让人们购买什么和投票给谁。我们现在有证据表明,在几乎所有最初未定的问题上,搜索排名几乎影响了人们做出的每一个决定。

它们对全球互联网用户的观点、信仰、态度和行为产生了更大的影响 — — 同样,完全没有人们知道这种情况正在发生。

无论有没有公司官员的故意干预,都会发生这种情况;即使是所谓的“有机”搜索流程也会定期生成有利于某一种观点的搜索结果,而这反过来又有可能使数百万曾经就某个问题犹豫不决的人下定预期的决心。在我们最近的一项实验中,有偏见的搜索结果将人们对水力压裂价值的看法转移了33.9%。

也许更令人不安的是,⚠️确实表明,正在观看有偏见的搜索排名的少数人在预测的方向上进一步被转变;所以,仅仅是知道列表有偏见并不一定能保护您免受 SEME 的影响。

最基本的,记住搜索算法正在做什么:为了回应您的查询,它从数十亿可用的网页中选择了一些网页,并使用秘密的标准对这些网页进行排序。几秒钟之后,你做出的决定或你形成的意见 — — 关于使用哪种牙膏、水力压裂是否安全、你应该去哪儿度假、谁将成为最好的总统、或者全球变暖是否真实 — — 将由您看到的搜索排名决定,即使您不知道该排名是如何生成的

与此同时,在幕后,搜索引擎的整合已经悄然发生,因此人们即便不采取谷歌搜索引擎,也会有更多人使用任何占主导地位的搜索引擎。因为谷歌是最好的搜索引擎,而且因为快速扩张的互联网爬行变得非常昂贵,越来越多的搜索引擎正在从谷歌那里获取信息而不是自己生成信息。

我们生活在这样一个世界,在这个世界中,少数高科技公司(有时与政府携手合作)不仅监控我们的大部分活动,而且还无形地控制着我们的想法和感受,做和说的一切

现在围绕着我们的技术不仅仅是一种无害的玩具;它还使得对整个人口的操作无法被察觉和无法追踪 — — 这些操作在人类历史上没有先例,而且目前远远超出了现有法规和法律的范围。

新的隐藏的说服者比 Vance Packard 所设想的更强大,更大胆,更糟糕。如果我们选择忽略这一点,我们就会面临危险。

作者 Robert Epstein 是加利福尼亚州美国行为研究与技术研究所的高级心理学家。他是15本书的作者,也是“今日心理学”的前任主编

广告

发表评论

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据