网络水军如何不断操纵您在社交媒体上看到的内容

  • 以今年最火热的BLM抗议运动为例,解释水军是如何控制您的认知的,以及如何分化并瓦解了预期中的反抗行动

越是价值含量高的内容,越是难以在社交媒体上得到传播。您肯定已经知道为什么了。那么操纵者是如何做到这点的呢?

像 Facebook、Twitter 和 Instagram 这样的社交媒体平台最初曾经被认为是与朋友、家人和感兴趣的人建立联系的一种方式。但是,如今的社交媒体,只会让人们变得加剧分裂和孤单。

毫无疑问,如今的人们已经非常熟悉政府间谍和黑客都在使用社交媒体操纵大众的认知和发起攻击。您可以在我们的专栏 “心理战和信息战” 中看到详细报告和分析。

但是,也许并非每个人都明白这些操纵者是如何做到的。

机器人和袜子木偶

社交媒体平台不仅仅是为你提供你关注的账户所发布的帖子。他们还使用算法来部分根据 “点赞” 或 “投票” 来整理您看到的内容。也就是说,它向某些用户显示一个帖子,而这些人做出的正面或负面的反应越多,向其他更多人突出显示该内容的机会也就越多。

可悲的是,事实上只有那些谎言和极端偏执的内容才能经常引起更多人的 “反应”,因此只有这类内容迅速而广泛地得到了传播。

2018年的档案照片,俄罗斯圣彼得堡的 “巨魔工厂’’:美联社

这是否说明互联网上的人更多只会追求虚假的极端偏执的内容?不是的。因为操作 “投票” 的人并非完全是真实的人类账户,大多数是一大群虚假的机器人水军。控制机器人大军的幕后推手被称为 “僵尸牧民”,这类人是有政治目的和经济利益的。

例如,你知道冠状病毒为什么在互联网上如此热门吗?也许您认为是该病毒大流行的杀伤力?或者其引发的各种危机?这都不全面,事实上,最近的调查显示,在 Twitter 上讨论冠状病毒的账户中有超过一半是机器人

其实很多机器人水军制作得非常粗糙,比如这个报告中提出的案例,数千个具有相同个人资料图片的账户一起点赞某些帖子。很多水军账户每天发布数百次,远远超过了人类的能力。

还有一个自称是佛罗里达州 “全美爱国军嫂” 的帐户,该帐户用英语讨论移民问题,但历史记录显示,该账户过去曾用乌克兰语发布。

这样的假账户被称为 “袜子木偶” —— 也就是被一只看不见的手操纵着用另一种身份说话的东西。

这里指的仅仅是恶意的用于信息战的袜子木偶,并非安全策略中推荐给公民调查人员和人权维护者掩护自己真实身份所采用的袜子木偶

在许多情况下,通过查看帐户历史记录就可以很容易地发现这种欺骗行为。但是在某些情况下,要使袜子木偶账户看起来真实,需要进行大量投资。

假人 “ Jenna Abrams” 目前该账户已经失效

例如,拥有7万名追随者的 Jenna Abrams 因其仇外心理和极右观点而被《纽约时报》等主流媒体引用,但实际上,它只是一个由俄罗斯巨魔农场控制的假人。

很多主流媒体都多次推动过信息战假人,比如下面这些近期的案例:

这并不奇怪。那些媒体只关心所谓的热点,根本不去考虑 “热点” 是如何形成的。而信息战水军专门从事 *创造* 热点的工作

制造混乱

也许很多人至今仍有一些误解,总是认为 Trolls 是在 “引导话题” 和强行让其他人相信他们的理念。其实并非如此。

事实上 Trolls 通常并不关心实际讨论的问题,而是关心如何更大程度地制造分裂和不信任。

我们曾经发布的很多有关信息战的报告中都强调了这点,即 网络水军是 **同时** 在两个极端上加强,而非某一个固定立场。部分推荐报告如下:

也许仅仅描述不容易理解这件事。那么我们来举一个例子。就以今年最火热的、也是貌似 “争议很大的” BLM运动话题为例。

1、当网络水军朝着支持和反对两个极端加强舆论力度的时候,所有人只能看到自己感兴趣的 *那一个* 极端,而不是全局。这是社交媒体的天然回音壁效应造成的。

也就是说,支持者 —— 即便是非暴力运动的信仰者 —— 也会看到鼓励更加激进的抗议行动的内容,包括鼓励更多暴力。

推动 “更激进” 的网络水军会看起来像是积极的行动派,由于他们所彰显的 “最坚定反种族歧视” 立场,以至于人们难以识别他们的用意。厌恶暴力的人们甚至会由此怀疑民权运动本身(你看到有人开始抨击所谓的 “政治正确” 了吗?嗯,就是那样)

然而,不要忘了,历史上曝光的诸多案例已经明确显示,政府间谍和警察操纵的渗透者都是在用激发暴力的方法来瓦解反抗运动的。在下面看到:

即便您真的很清醒、明确地捍卫非暴力运动,也会因这些网络水军所煽动的 “整体暴力气氛” 而困惑,甚至因此怀疑这场运动本身。(有些舆论已经升级到怀疑整个民权运动历史的合法性。这种被操纵的结果非常悲剧)

2、另一方面,带有一定程度上的歧视心理的人们会被同时在另一个极端下力的水军所极化 —— 他们是反对者,他们会制造各种虚假信息以污蔑抗议者和所有黑人社区,并同时扭曲民权运动本身。

这就是您在某些中文网络上看到的转发内容。这些虚假内容被翻译成中文在中国网络传播,甚至一些知识分子、“人权律师”、和 “异议人士” 也中计了。

然而制作和传播这些内容的幕后 “僵尸牧民” 却往往被理解为 “白人至上主义者” 或者极右翼。一定程度上可能,但肯定不是全部,其中肯定还包括同时在两个极端下力的网络水军 —— 而人们,再一次,只看到了其中一面。

3、尤其不容易判断被网络水军操纵的原因包括,我们中大多数人能看到的内容都来自于我们关注的人/熟悉的人/朋友和亲属的转发和评论,简单说就是那些我们不会怀疑其持有恶意目的的人。

而这些人也是分别通过他们关注的人获知的相关消息。想象一个涟漪,一圈一圈地扩大,而激发这一涟漪的力量就是上述提到的 “社交媒体投票”,即 点赞和转发量,该 “投票” 很大程度上是由网络水军推动的

我们中很多人都不会去质疑那些 “大家都在转发” 的内容,而批驳验证非常繁琐,需要一定时间才能完成,而虚假信息却像洪水一样冲击,合理的验证流程完全跟不上造假的进度;甚至其中很多内容极为浅薄,属于 “低端造假”,而正是这类内容令信息验证者困惑 —— 因为它们真的不值得浪费时间。

但正是这些粗制滥造的虚假信息在很大程度上实现了网络水军的预期目的

4、整体上这就是为什么您看到绝大多数人 —— 包括那些著名知识分子和学者 —— 都在努力将议题固定在种族问题上,从而偏离了这场运动真正的目标:反警察暴力和法外杀戮、反对不公正和阶级压迫。

因为人们看到的是 “周围人” 都在讨论种族主义问题,社交媒体鼓动的 “参与即存在” 价值观令人们不得不去 “说两句”。尤其是,正如我们在《说明》中所解释的,社交媒体媒介形成了某种障碍,它会不断促进人们彼此间的批评和争执(而非讨论),它为吵架带来了更大的吸睛度“奖赏”。

争执的结果是什么?如您所知,所有人更加分裂,当权者的维稳战术中最重要的一环 “打散” 能带来的分化效果可能都没有如此强劲。这就是为什么您不会看到当权者审查和屏蔽种族相关的争执包括虚假消息。

不仅不会审查和屏蔽相关虚假消息,甚至这些寡头平台还会推动它们给更多人看到 —— 因为争执带来了更多的用户更长时间地驻留在这些平台上,这意味着更大量的行为数据资源和更高额的广告收入。

IYP的推特账户几乎没有关注中文内容,我们也没有设置任何包含中文内容的公开 lists。虽然我们使用简体中文发布推文。为了可以做到尽可能及时回复读者留言的问题,我们打开了推特通知服务。

但是,就在BLM运动最火热的阶段,我们收到的推特通知中包含了大量中文内容,都是我们从来没有关注过的/甚至没有听说过的 “热门” 中文账户,并且,全部都是反对BLM运动的内容和支持特朗普的内容。推特的算法令人困惑。

那么算法究竟是什么?谁也不知道。这些信息受到商业法保护,外界无权了解。但一个显而易见的事实,该算法推荐给IYP这类内容,很可能是期待[刺激]我们的账户加入这场争论。如上所述,那将能为平台带来更多的广告收入。

我们在《说明》中已经解释过这点:“不能被简单的支持或反对的意见分裂中国的活动家团体。否则,它将比浪费时间更糟糕。”

我们坚持认为,如果如此层出不穷的法外杀戮事件发生在中国,想必大多数人都能具备清楚的认知,作出立场明确的捍卫正义的判断,虽然不一定会有反抗行动。

简单说,人们的基本认知很可能并没有被扭曲到不存在本土反抗之可能性的程度上,而被网络水军操纵的分化和极化却极有可能瓦解联合的能力,没有联合就无法形成更无法赢得反抗斗争。

很多分析都在致力于从代际层面和政治派系层面来解释为什么某些人比其他人更容易轻信假消息和容易被操纵。比如,研究表明,在成熟的互联网中长大的Z时代人群倾向于将一切来自互联网的内容视为娱乐,而不是知识,于是他们被认为倾向于不会轻信任何网上的内容。再比如经济学人分析过,为什么保守主义者更容易被假新闻所欺骗《Fake news is fooling more conservatives than liberals. Why?》。

上述都有一定的道理。但我们更愿意相信,批判性思考是避免被操纵的最有效方式。最基本的,是要认识到,互联网上有着无处不在的操纵和误导

不要错过我们尚未完成的系列内容:

5、让你绝望。

Trolls 不仅仅是煽动分歧,它们还致力于鼓励人们相信真理不再存在

分而治之,让人们不再信任任何可能充当领导者或可信赖声音的人。削弱士气、让人们变得沮丧和低落,从而陷入虚无。这些都是破坏性攻击的有效策略。

当你看到的满眼都是 “小粉红”、无知和愚蠢时,保持希望并不是一件容易事。而只有希望,才是继续拼搏和努力的推动力。如果没有希望,我们都可以就此屈服了。

让你绝望,这正是网络水军希望达到的目的。

  • 我们在去年底的访谈中警告过这件事,关于:您看到的愚蠢和偏激很可能并非真实的社会生态;如果您连续看到20个中文 “法西斯主义者” 的咆哮时就认为 “中国人都**”,那将是操纵者最满意的效果与IYP下午茶

如果您尚未意识到这一严重性,您并不孤单。即使是社交媒体研究人员,也很可能会低估这些攻击对自己的看法的影响程度。

您可能认为自己很聪明,可以仅仅阅读那些自己想要的东西,丢弃其余部分,毫发无损地走开?事实上并非如此简单。每个人在看到那些被点赞了几千次的愚蠢帖子时,也会下意识地认为 “那就代表了公众舆论”。

你会受到算法暴政推送的内容的影响,也会受到自己的朋友和熟人观点的影响,你的朋友和熟人也会受到他们的关注者的影响。

整个社会都被巧妙地操纵着,人们误以为彼此处于许多问题的对立面上。

这不是中国、美国或哪个国家的独特景观,而是在世界范围内一直都在发生着相同类型的攻击。

  • 通过使民主国家的声音彼此对立冲突,威权政权将开始看起来比混乱更可取;
  • 通过让异议人士和反抗活动家彼此矛盾,将没有人再能够挑战专制当权者,政权自然稳固 ……

6、难以期待这些寡头公司的平台有效地采取行动。正如上述推特推荐给IYP账户的种族主义中文内容那样,这些平台有明显的利益动机。他们只在权利组织的不断抵抗和舆论不断谴责的情况下才会迫不得已采取一些行动。

而人们通常不会支持采取行动 —— 包括我们,也不支持平台主持的审查和封锁,因为每一种集中化审查都将意味着侵害言论自由。

更何况,已经有很多证据表明,如今的信息战更多采取真人操作,而非机器人水军。我们也许可以剥夺那些机器人的言论自由,但当针对真人时,除非能拿出证据证明其受雇于某个权势,否则任何一种愚蠢都在言论自由的保护范围内。

控制

所以,您对此能做些什么?

我们的 列表-3 中“让它民主” 板块收集了很多验证信息的技巧、工具和思考方式,也在 “战略性欺骗”、“社交工程” 等栏目中详细分析过诱骗和操纵的手段。这是旨在从媒体素养角度上将辨析能力普及给更多人。

但仅仅提高普通互联网用户的媒体素养是不够的。您还需要至少做到以下。

首先,您应该努力逃离寡头平台的算法控制,避免让算法暴政统治您的认知。这方面推特的确强过 Facebook,因为有办法在推特一定程度上绕避算法操纵。方法见下面

IYP的官方推特账户没有做任何设置上的修改,这是为了及时了解到在通常情况下会发生什么。而您无需分析这些,只需要能做到绕开算法的操纵。

当您做到时,也许您会惊讶地发现曾经一直被错过的内容,其实它们就在那里,甚至与您 “互粉” 的账户发布的内容,在算法的策动下您也很可能无法看到。

其次,向社交媒体平台施加压力,要求其清除具有明显机器人迹象的帐户。在下面看到判断方法,这很重要,因为如果您的举报连续出现错误,推特将很有可能不再理会您:

第三,注意 Trolls 最喜欢的问题,并对其保持怀疑态度。他们可能最有兴趣制造混乱,但他们在某些问题上也表现出明显的偏好。

最后,也许最重要的是,像使用任何其他让您上瘾的、有毒的物质一样,谨慎地使用社交媒体,并致力于更多投入线下的真实社区建设和对话

面对面聆听真实的人、真实的故事和真实的意见,然后从那里开始,协商解决我们共同面对的问题。⚪️

发表评论

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据