数字技术究竟是会杀死民主,还是拯救民主?:这个10年

  • 来自皮尤,这是一份重要的讨论 ……

大约有一半的专家回答说,人们对技术的使用将在很大程度上削弱民主和民主代表制的核心方面,并且即使那些表示乐观的人也在此表示了担忧。

这篇文章记录了所有受访者的回应,关于他们对这个十年之内技术对民主的影响的主要问题的看法。这些担忧由七个主题组成;综合起来就是目前民主面临的最主要问题的一个概述。

我们翻译这部分内容的原因是希望追求民主变革的中国读者能对当下存在的最明显障碍有一个更为清楚的认识;这是寻求解决方案以构建真正的民主的基础。

赋予强大的权力:科技公司和政府的议程通常不符合民主目标、无法实现民主结果。它们只服务于权势的目标

一位互联网先驱、技术开发者和管理者预言

“到2030年,世界上多达75%的人口将被中国开发并出口到世界各地的基于人工智能的监控系统所奴役。这些系统将使每个公民7*24地处于被监视之下,监控他们的一举一动。”

亚利桑那州立大学沃尔特·克朗凯特新闻与大众传播学院新闻联合实验室的联合创始人、数字媒体素养实践教授 Dan Gillmor

“各国政府(及其企业合作伙伴)都在广泛地利用数字技术创建监控国家,以及通过完全不负责任的黑匣子算法来制定法律,这远远超出了奥威尔的任何想象。

理论上这只能发生在一个无心保护自由的、或者很容易被引导/压制而放弃自由的社会里,但是如今这种情况正在越来越多的西方民主国家里发生

公众偏执的重新抬头与技术本身无关,除非偏执者利用技术来促进他们的恶性目标。

与此同时,那些本应保护自由的机构 —— 其中就包括新闻业 —— 大多都没有做到这一点。在极少数司法管辖区,人们已经说服领导人对这些侵犯行为进行反击,比如旧金山部分禁止政府使用面部识别。

但是,侵犯行为是压倒性的,而且还在加速。”

加州大学洛杉矶分校信息研究教授 Leah Lievrouw

“到目前为止,几乎没有任何一个民主国家或制度梳理出如何应对这种对民主进程基本合法性的挑战,我的猜测是,只有发生一场深刻的、破坏稳定的危机(也许是由专制主义、民族主义或文化民族主义的兴起而促成的)才会促使人们认真应对。”

程序员、顾问、EFF先驱 Seth Finkelstein

“沃伦·巴菲特说过,‘阶级战争,没错,但发动战争的是我的阶级,即富人阶级,而我们正在获胜’。我们可以研究这种阶级战争是如何随着科技的进步而变化的,类似于军事战争是如何受到科技影响的

但迄今为止,没有任何一种武器化的技术能让民主必然战胜独裁(或反之亦然)。

比如,曾经有一种豪言壮语,说普通人做网站并宣传就能获得非常罕见的事业成功。但是,现在这种神话早就过时了。人们已经明白,互联网上的内容被推广的背后是一整套你看不见的操纵系统,算法的统治。拿钱办事的职业骗子既能自己做网站,又能比任何业余的人更好地把玩这个系统。

目前美国人对俄罗斯 trolls 深感恐慌,但本土的 trolls 也在做同样的事,有更多的技术、激励和机会,任何人都可以做到。”

‘以人为本’互联网联盟执行主任 David Bray

“叙事的力量正是它们塑造和制度化人类社区的规范和权力分配的能力。……然而现在,我们的世界比我们眼前的环境要宽广得多,这有危险的副作用,比如在达成共识或对某一情况的相关事实进行争议时面临挑战。

我们看到开放社会中的两极分化日益严重,部分原因是我们想去哪里的问题没有以能够转化为行动的方式加以考虑。

一个更大的问题是,不同的地方在取得进步的同时,想往哪里去,他们想珍视什么样的价值观或准则?这是一个跨部门的问题。没有任何一个组织或有影响力的人或有权力的团体能够单独回答或执行朝向那个理想的未来状态的行动。

如果没有找到建立跨部门的桥梁的方法,权力 —— 通过垄断叙事、法律或技术 —— 将被任何渴望它的人所攫取。

未来的一个重要问题是,我们能否建立这样的跨部门的桥梁?我们的分歧是否会成为我们作为开放、多元社会的败笔?人们能否为开放的、多元的社会发展出有希望的叙述,使人们团结起来?”

西班牙格拉纳达大学哲学教授、伦理学、认识论和技术专家 Miguel Moreno

“私人公司或国家行为者对社交网络、互联网和任何未经审查的公民表达平台进行偏见、操纵、滥用监视和专制控制的风险,已经显而易见。国家行为者正在推动一些举措,将自己与共同的互联网隔离开来,并减少关键基础设施对网络攻击的脆弱性。

这对民主和公民具有严重的影响。在具有技术能力和高度集中化的政治结构的国家,存在着通过限制社会竞争、限制言论自由和侵蚀公民权利来获得党派优势的有利条件”。

驻欧洲的企业家 Richard Jones

“政府将以不可预见的方式滞后于国家和企业行为者对数据的利用。有偏见的审查制度和宣传攻势,都将影响舆论,人们对和平有序地改善社会所必需的机构和人物的信心将进一步崩溃。

歇斯底里的诽谤攻击将进一步加剧,有偏见的技术官僚集团思想将继续向独裁主义迈进。只有魅力型领导人才能蓬勃发展。专制主义将在其他地方扎根。

在线偏好调查可能会被开发出来以指导政府面临的许多选择,但不清楚这是否能以有益的方式纠正当前的民主赤字。就像在古腾堡进程中一样,伴随着 ‘自由放任’ 信息的消化,将是对世俗和宗教价值和目标的重新评估。”

驻英国的系统架构师 John Sniadowski

“事实证明,由于各国政府的议程各不相同,很难对跨国公司进行监管。

在全球范围内制定一套控制跨国公司的规则是不可能发生的,因为一些主权国家对议程的控制非常不自由,而且等级森严,他们认为技术是用自己的议程支配公民的一种方式,同时也可以影响他们认为是敌对国家的民主观点。技术可以被武器化。”

独立技术顾问 Kevin Gross

“技术可以改善民主也可以破坏民主,这取决于如何使用技术以及谁来控制技术。

现在,技术的控制高度集中化,被太少的人所掌握。这极少数人不会心甘情愿地分享。

我预计到2030年,这种情况不会有大的改变。历史知道,当大量的权力集中在少数人手中时,其结果绝对对多数人不利,对民主不利。”

美国行为研究与技术研究所高级心理学家 Robert Epstein

截至2015年,世界上有多达25个国家选举的结果都是由谷歌的搜索引擎决定的

原本设想的民主无法在技术寡头目前的授权下生存。如果当局不采取行动遏制这些技术寡头 —— 谷歌、Facebook 以及未来几年可能出现的类似公司 —— 的权力,到2030年,民主在普通公民看来可能和现在很像,但公民对谁赢得选举和民主制度如何运行将不再有太多的发言权。

上图中的两份论文在这里看到:https://www.patreon.com/posts/bu-shi-jian-shi-38160078

我的研究 —— 涉及数万名参与者和五次全国性选举的数十次随机对照实验表明,仅谷歌搜索结果就可以在人们不知情和不留痕迹的情况下,轻而易举地转移超过20%的未定选民 —— 在某些人口群体中高达80%。

研究还表明,搜索建议可以将未决定选民的五五分账变成九一分账 —— 同样是在人们不知道自己受到影响的情况下。算法联想的内容可以将搜索引擎操纵效应的影响额外增加10%到30%。

我已经发现了十几种类似的主要是潜移默化的效果,目前正在研究和量化其中的七种。2018年的选举日,谷歌在主页上发布的 ‘去投票’ 提示,让一个政党获得的选票至少比其对手多80万张 —— 如果该提示是针对受青睐的政党的,可能会多更多。 ”

一位长期居住在南非的互联网权利活动家

”能否有效控制国家政府和技术寡头的权力,是当前最主要的斗争。精灵已经出瓶,对于西方国家已经被破坏的民主制度来说,这不是一个好兆头。

现在全球网络战争的状态已经存在,并且很可能在未来十年内持续下去。

不管是美国还是中国,国家支持的科技公司的寡头垄断将很难打破。

区分谷歌还是阿里巴巴早已是老生常谈 —— 两者都得到了各自政府的大量支持 —— 谷歌靠的是没有能管得住它的反垄断法,阿里巴巴靠的是国家对中国竞争力的保护。

互联网的先驱架构师、互联网政策专家 David P. Reed

“2030年的 ‘民主’ 将只剩下一个名字而已。企业对用户行为的广泛监控和对用户行为的修改机制正变得如此复杂,以至于民主结构国家的公民利益将不再得到任何有意义的代表。

也就是说,通过收集海量的用户偏好和反应信息,以及使用针对性极强的行为修改技术,公民的选择将越来越多地被那些能够有钱推动该系统的人的利益所操纵。

目前的民主形式将公民的参与限制在每隔几年一次的选举活动中,在这些活动中,议题和候选人被政党组织成针对性极强的单一投票活动,而这些活动并不代表个人的利益。

相反,一小部分具有挑衅性的 “楔子” 议题成为公民选择的全部焦点。这不是公民利益的代表。它是一种被控制的民意,可以很容易地通过现代技术所擅长的那种行为修正来操纵。”

最重要的全球新闻组织之一的一位技术编辑和记者:

“我不太相信负责确保网上言论是文明的并遵守真实和公平标准的机构能够战胜专制政府和强大的私营部门行为者利用网络空间达到狭隘政治目的的倾向 ……

互联网从来没有一个有效的、具有相当影响力的管理机构来制定政策,以保证全球范围内的网络中立性,抑制审查制度,并适用《世界人权宣言》等公约。此外,少数道德准则受到质疑的平台已经成为网络世界的主宰。有些平台由政府主导。另一些平台只效忠于股东”。

《A Celebration Society》的作者 Jonathan Kolber

“深度造假将彻底混淆事实与虚假之间的区别,即使是现在,也很少有公民有能力做出这种区分。这将对民主制度和程序产生毁灭性的影响。……

我们越来越多地看到乔治·奥威尔的噩梦在展开,因为政府学会了利用联网智能设备(电视、智能手机等)进行全方面的监控。当物联网延伸到智能汽车、智能家居等东西时,反乌托邦已经是最为普遍的、无止境的。

政府也因此更容易重新定义现实和历史叙事。”

一位计算机科学教授:

“人工智能技术,尤其是机器学习,有一个反馈循环,对先发者有强烈的优势。Google 能够积累更多有关用户搜索行为的数据,也因此用户体验“更好”。

这种态势本身就具有垄断性,甚至比之前的技术进步更甚。利用这些技术构建的大规模心理操纵能够按需塑造舆论,其影响力和威力是20世纪极权政府梦寐以求的。

我们可以肯定,今天的监管情绪要么会随着什么都不做而消散,要么更有可能成为进一步巩固现有垄断的驱动力,创造出任何竞争者都无法逾越的技术要求。民主体制将很难对抗这种动态。Uber的所谓 ‘灰球’ 计划,旨在击败监管和任何有意义的审计,这就是是未来的预兆。”

《谷歌、Facebook和亚马逊如何垄断文化和破坏民主》一书的作者 Jonathan Taplin:

“社交媒体将继续促成新的、更复杂的政治宣传和虚假信息形式。人工智能的发展将使普通公民最容易上当受骗的深度假视频成为可能。Facebook、YouTube 和 Twitter 只会无休止地追逐收入。

政客们会假惺惺地表示需要监管,但由于这些平台将成为他们广告和宣传的主要来源,他们永远不会承诺真正的改变。”

致力于令人工智能以最大限度发挥人类潜能的智库 Socos Labs 的创始顾问 Bulbul Gupta:

“鉴于目前科技和人工智能所有权的现状,我预计到2030年,民主将在富人和穷人之间变得更加不平等,被迅速抛在后面的大众将发生重大起义

科技和人工智能由它们的创造者,也就是最顶尖的1%的人所拥有,在社会的每一个部门,关于100%的人所做的决定,几乎没有透明度,没有人的判断力,也没有太多的追索权,在面对面的情况下就不会做出同样的决定。人们将需要自己能掌握的人工智能保护自己的基本公民权利和人权。”

【注:他在强调技术民主化的必要性。让公民掌握技术,这是最近几年的热门议题】

居住在巴西里约热内卢的互联网先驱和数字权利领袖 Carlos Afonso

Thomas Piketty 和其他人表明,如果有的话,不平等现象在各地都在加剧。

民主被理解为政治进程中的多元参与,涉及政府代表的选举(所谓的公正)选择,以及制定政策、立法和法规的决策过程,在这些条件下都无法生存。……

联合国社区最伟大的成就之一是达成了试图在2030年之前实现17个可持续发展目标的共识。然而,各种国内和国家间的冲突,使我们对这些目标的基本组成部分如何在全球范围内实现并没有任何希望

此外,(部分是由于以金融投机者为首的日益严重的经济危机的各种表现),增加资源以满足大多数人的基本需求的可能性非常小。

纽约大学媒体、文化和传播学助理教授、哈佛大学伯克曼·克莱因中心研究员 James Sigaru Wahu

“正如我们在整个全球北方看到的那样,科技只会让线下的紧张局势变得更糟。这导致了对民主观念的多重挑战,正如布雷斯特事件、2016年总统选举、和针对移民群体的暴力事件所显示的那样。

我们也看到国家通过利用技术扩大其监控权力的普遍行为,中国和英国的情况就是如此(有大量的闭路电视摄像机存在)。

全球南方国家也加入了监控竞赛,这对倡导人权的组织和民众来说不是一个好兆头。因此,我们看到的是俄罗斯和中国等国家在高科技监控和误导/造谣方面的实力不断增强,而在美国,全国各地的一些警察部门则依靠 Palantir 等邪恶公司扩大对公民的监控。这两种情况都导致了灾难性的结果。”

香港中文大学新闻与传播学院教授 Lokman Tsui

“新技术的政治经济学,让我对新技术如何影响民主及其制度有很多担忧。首先,包括人工智能、机器学习和大数据在内的许多新技术都具有封闭性和集中性。与之前的开放网络不同,这些技术无论是在设计上还是在商业模式上,都是封闭的、集中化的。

这些技术确实可以用来完善民主制度和程序,但是,难度非常大,会有很多障碍需要克服。

其次,新技术不仅没有帮助民主国家,而且从设计上看,它们还在帮助和加强专制国家进一步加深的审查和监视。

虽然也有一些技术可以抵消这些倾向,但是天平往往(严重)倾向于另一方。

第三,我担心的是,在收集(个人)数据的问题上,存在着全球范围内的恶性竞争,这只能使许多其他权利受到压制。”

技术赋权的倡导者、未来学家 Norton Gusky

“多年来,我真正地相信互联网能带来更多的信息获取途径,从而加强民主。但是,在过去的四五年里,我已经充分目睹了互联网的黑暗面。

我认为会有一个摇摆,但是在未来的两到四年里,黑暗的力量只会占上风。我们会看到土耳其、中国和埃及等国家如何限制真相的获取。即使是曾经的民主支柱英国和法国,也会受到滥用数字技术的挑战。”

伯克曼·克莱因大学互联网与社会中心研究员 Paola Ricaurte

“即使在我们意识到技术对民主进程可能产生的负面影响之后,也没有看到美国政府采取任何重大行动限制科技公司的权力。科技公司的域外控制将进一步扩大,并将继续对全球南方的民主制度产生影响。数据丰富的国家和数据贫乏的国家之间的知识差距将更为加深。”

查尔斯顿学院教育学助理教授 Ian O’Byrne

“权力和金钱最终会影响民主机构的决策。随着动荡的加剧,公民可以利用社交媒体和当前/新的数字工具来表达自己的意见。但是,最终这将会被现有的权力持有者再次推倒,最终可能什么都不会改变。

现有的权力拥有者将继续发挥他们的影响力,而公民们只能继续通过向网络世界呐喊来表达自己的意见。”

美国三角研究所创新政策高级经理 Jeffrey Alexander

“在人们习惯于将权力集中在少数几个机构的社会中,中央政府已经通过监控和国家权力来行使权力,数字技术将促进恐吓、造谣和其他减少个人自由、压制少数人意见和实施专制控制的机制。

这将使这些政府能够增强假民主的表象,例如提供 “自由和公开” 的选举,但是,却在选民到达投票站之前就利用这些机制成功地压制了不同意见,从而加强其自身权力

只有在具有强大的个人教育和自由传统以及公民驱动的社会中,数字技术才可以帮助挫败专制统治的兴起,改善对执法和政策过程的监督和治理,并加强公民对政府的监督和对政治的参与。”

GlobalSecurity.org 创始人 John Pike

“2030年的民主将面临最好的时代和最坏的时代。所有关于社交媒体和其他在线实施加强公民参与的乐观预测都将实现;同时,所有关于监控国家可以轻易操纵舆论的悲观预测也都将实现。像俄罗斯和中国这样的专制政权很擅长这种黑暗艺术,并将在全球范围内实践。”

一家互联网安全公司的工程师 Shane Kerr

“那些拥有资源的人将能够更有效地利用技术来影响舆论和政策,最终与民主理想背道而驰。

我们今天已经看到了这种雏形,但它很可能会演变成一种非常普遍的做法,普通公民甚至不会意识到这一点,除非他们去研究下历史”。

弗吉尼亚联邦大学数字研究副教授 David Golumbia

“除非对数字技术的民主控制有大规模的根本性改变,否则该技术将继续侵蚀民主。正如它的设计一样,也正如它的最热心的拥护者公开表示他们想要的那样,他们甚至会假借民主的语言和自由表达等联盟价值来为他们的反民主行动辩护。

我谨慎地希望,政府和公民都能清醒地意识到这一强大的反民主力量的存在,这些力量已被编入现今的技术和文化中,并为其提供信息和权力。……·虽然我希望情况会有所改善,但是,在民主国家,用于确保情况不会改善的巨额资金和权力令人恐惧,而在那些甚至不打算成为民主国家的国家对这些技术的使用如此疯狂,同样令人恐惧。”

麻省理工学院公民媒体副教授 Sasha Costanza-Chock

“民主进程的核心方面已经深受压力而被破坏。在美国,我们需要进行重大改革,以使人们能够更广泛、更有意义地参与民主决策。但遗憾的是,其中大部分改革都是极不可能的。

相反,我们似乎被锁定在一个精英主义和极其昂贵的选举制度中,在这个制度中,拥有最多金钱和与最富有的支持者有联系的玩家操纵着整个制度,使之对他们自己有利。

在这种情况下,许多技术工具只是在推动那些能够为自己的目的开发和定制这些工具的人的权力—— 他们就是最大的玩家。反作用力微弱,比如反叛的候选人能够利用社交媒体推动自己。”(但有多少人能看到他们的发布,取决于专制的算法)

澳大利亚新南威尔士州南十字星大学流行文化学术研究员 Denise N. Rall

“我相信技术将帮助现在的独裁者保持领先地位,并控制我们所有生活的更多方面,恶化民主的前景,就像世界上大多数经济强国已经发生的那样(美国、俄罗斯、中国以及欧洲的右翼选举、英国Brexit的荒唐等)。我认为环境恶化将成倍增加,人们将很快为能源、水和食物等资源而战。我认为,如果政府没有真正的减少资源消耗的愿望,没有某种全球性的节制计划,技术是没有能力改变这些结果的。”

一位需要匿名的受访者评论

“中国有可能通过加强对公民的监控和完善所谓的 ‘社会信用评分’ 立法的方式,阻止民主和打破一党专政的政权更迭趋势。

中国有可能通过向希望继续掌权的非民主政权分发此类技术,帮助支撑那些既得利益的发展中国家的政权。

我认为印度最终选择哪种方式取决于其政治环境中广泛的腐败究竟是被利用了还是被其公民不断增加的对技术和信息的获取所挫败。”

纽约州立大学·奥尔巴尼分校政治社会学教授 Richard Lachmann

“民主将继续被削弱,但技术只是次要因素。在民主的衰落中,更重要的是工会的消失或被削弱,公司在各行业的权力因合并而不断增长,不平等的极端程度,以及富人和政治人物操纵‘否决点’使政府举措瘫痪的能力,然后增加公民对政治家的嫉恨,减少他们的民主参与。

所有这些都是在互联网扩张之前就已经存在的,并不会因为公民的网络活动而大大减少。”

上图中这本书在这里下载:https://www.patreon.com/posts/jiu-de-min-zhu-39999713

创意研究学院院长 Vince Carducci

政治体制变化的发生更多的是权力和金钱的作用,而不是技术的作用,尤其是在候选人的选择和司法系统中。这些比技术更具有威胁性”。

互联网最早也是最著名的在线社区之一的一位联合创始人

“民主正受到威胁。责任最终不能完全归咎于互联网或计算机辅助自动化或人工智能。个人和企业财富为支持其私利而利用这些技术的巨大力量,将越来越多地压制平等主义和民主价值。”

美国一家联邦机构的科学家

“我们正处于一个日益增长的孤立主义、本土主义和反弹的时期,这将削弱世界各地的民主制度,到2030年,这种状况可能已经达到了一个高峰。潜在的经济和环境变化是导致民主制度变弱的主要原因。”

一位退休教授评论

“公司将对雇员和客户拥有更大的权力。美国总统艾森豪威尔很早以前就警告过,这将是企业不断接管民主制度的一部分。

识别和监控技术将扩大其使用范围,更为深刻地蚕食社会生活的私人领域。社交媒体将继续加强家庭和朋友之间的强大社会关系,同时促成熟人之间薄弱的社会关系的形成,而这种社会关系支持着多元化社会中必要的群体间合作。

气候的恶化及其对健康、农业和基础设施的影响将造成越来越多的非理性形式的互相指责和全球冲突。全球冲突将包括针对军事强国的电子和生物形式的侵略。

更多的公民反击是可以预期的,但很可能是针对不适当的目标。

我们所熟知的社会将从灾难跌落到更大的灾难,走向我们物种的大规模消亡。我希望我是错的。我希望看到我们的物种能够完整地生存下来,并保持其民主价值。我有孙子。我希望他们的孙子能继承一个更好的世界,而不是我们现在的技术官僚资本主义经济所奔向的世界。”

匿名受访者评论:

  • “资本主义下的互联网只会为少数人服务,而不是为多数人服务,民主也会因此而被削弱。问题在于竞争性的经济需要,而不是技术上的负担能力”。
  • “导致变化的不是技术,而是创造各种技术的体制和结构。”
  • “最大的声音将继续是那些能够被听到的声音。尽管媒体可能会发生变化,但精英人士仍将掌管一切。”
  • “科技公司和政府有强大的动力避免采取措施来解决互联网平台损害民主机构的破坏性方式。”
  • “权力腐败。看看今天的科技巨头都在干什么 —— 操纵和宣传。他们是认为自己最了解技术的精英人士。”
  • “大数据和超级计算能力的结合似乎对民主产生了负面影响,我认为没有迹象表明可以有效地进行监管或管制,特别是考虑到超大型互联网公司和政府的权力关系(尤其是数据宝库) 。”
  • “我不相信政府了解这些工具,他们会屡屡失败,无法好好监管或组织;我也不相信私营公司是民主的,因此他们容易强化资本主义独善其身,而不是民主。”

减少被统治者:数字网络监视资本主义创建了一个不民主的阶级制度,使控制者与受控者对立起来

奥斯陆大学数字伦理学教授 Charles Ess

“民主 —— 它的基本规范和原则,包括基本的隐私权、言论自由以及质疑和自觉不服从的权利 —— 可能会在2030年以前以某种形式和在某些地方存活下来;但是,有许多强有力的理由足够判断,即使是传统的民主国家,也会被监视资本主义的力量推到边缘,再加上公民对这些力量的无力感越来越强,对操纵信息和操纵选举的无能为力。更不用说中国越来越广泛地输出以其新兴的社会信用体系为蓝本的数字专制主义技术了。”

宾夕法尼亚州立大学电信法教授 Rob Frieden 曾在摩托罗拉公司工作,并在联邦通信委员会和国家电信与信息管理局担任高级职务,他说

“技术创新似乎更适合扩大政府的权力,而不是提高个人逃避监控的能力。在整个政治意识形态的范围内,国家政府可以举着所谓的国家安全旗号为越来越复杂的监控技术增加预算。

无辜的人的合理隐私期望将受到侵蚀,特别是在拥有巨大处理能力和范围的技术,再加上模糊的授权的情况下。

除非公民进行反击,否则政府将利用监控技术达到促进国家安全以外的目的。人们有可能对无处不在的监控变得习以为常、麻木不仁,以至于反击似乎太难,而且毫无成效。”

研究创新和数字转型的牛津互联网研究所高级研究员 Gina Neff

“根本没有理由相信技术可以加强民主。西方民主国家正在努力应对来自金融资本日益集中的权力及其以民粹主义兴起为形式的回应。如果不注意加强我们的核心技术和通信基础设施,这些权力将继续破坏人们参与 —— 实际上也是创造 —— 民主的方式。”

伊利诺伊大学芝加哥分校传播与政治学教授 Zizi Papacharissi

我们目前的治理体系支持强资本主义/软民主。在这种平衡被重组,支持软资本主义/强民主之前,我们创造的任何技术都将继续不利于民主

简而言之,我们创造的技术是为了创造利润,而不是为了支持民主。

两者是可以兼得的。然而,我们只是没有这样设计。

到2030年,我们将看到技术推动的民主和政治进程被进一步削弱。这种情况的发生并不是因为技术本身有什么不好或不民主的地方。而是因为大多数技术是通过支持强大的资本主义模式的机制来设计、实施和/或部署的,而这种模式是几个世纪前建立的,需要更新,以便与当代社会、民主社会和非民主社会相适应”。

艾默生学院参与实验室的智慧城市研究专家 John Harlow

“虽然反垄断情绪不断升温,但2030年很快就到了,占主导地位的言论数字公域(Facebook、Twitter、YouTube)很可能会引出(法院)任何改变其商业模式和/或做法的监管行动。

目前,它们受旨在最大限度地增加 “参与” 时间从而增加广告收入的算法专制的管理,这些算法将极端内容优先于准确内容(以及其他问题)。这使得专制的极右势力在世界各地崛起并得到支持,并破坏了人们对民主机构和进程的信心和参与。”

一位社会技术系统专家写道:“社交媒体科技公司将继续抵制任何控制和有意义的监管,以维护其核心业务,Shoshana Zuboff 将其贴切地描述为监视资本主义。寡头们或许还在外国利益集团的帮助下,将继续为自己的利益操纵舆论。经济上的不平等将继续增加,对移民和精英的不满也一样。”

一位人机工程设计专家写道:

“民主的衰败首先应该归咎于资本主义本身,而技术的作用是次要的。资本主义似乎早该受到重大冲击,以至于预测2030年这么远的事情似乎很愚蠢。此刻已经见证了十年来不断强化的分心工程。

一位曾在美国政府机构工作过的法律专家写道:

“基于每个人的数据和推断数据的日益复杂的营销有可能越过说服和操纵与胁迫之间的界限,而第一修正案对政府的约束将需要相当程度的胁迫证据,然后政府才能进行干预…

操纵的威胁 —— 我们在2018年的剑桥分析公司风波中看到的冰山一角 —— 是完全真实的,而且还在不断增长。行业或政府是否能够遏制它是一个开放的问题。工业界当然有利益冲突 —— 其操纵越成功,工业界赚的钱就越多。而政府有第一修正案的约束,理论上可以限制它的作用。”

网络安全记者 J.M.Porup

“信息技术破坏了民主,将权力重新分配给所谓的情报界(这只是秘密警察的委婉说法)。

大规模监控使极权独裁成为可能,并披上一层薄薄的戏剧性外衣,让人们误以为自己还生活在一个 “自由国家”。

不可能建立完全安全的软件、网络或设备,意味着黑帮和间谍会入侵这些设备,并夺取对它们的控制权,以积累更多的权力。

网络安全是我们这个时代的核心政治问题,而在第五领域[网络空间与陆、海、空、太空一起作为战争的场所]上的政治组织看起来很像戒严。低技术的记者向低技术的受众报道这些问题时,往往会混淆问题。

各大网络雇佣前间谍向美国人民撒谎,只能称之为事实上的国家电视台。前景是严峻的,如果没有更多精通技术的记者来提高警惕,我对我们政治自由的未来是悲观的。”

Appropedia 基金会执行董事 Emilio Velis:

“过去10年,技术平台塑造的用户参与方式,将分散信息的权力转回给了大公司、平台和利益相关者。或者,更糟糕的是,它削弱了个人的行动能力,同时保持了他们拥有控制权的虚幻感觉。”

加利福尼亚大学洛杉矶分校设计、媒体艺术和数字人文教授、《Tales of the Computer as Culture Machine》的作者 Peter Lunenfeld

“像 Facebook、Twitter 等商业平台驱动的通信技术及其最终的继任者,不可能在21世纪未来几十年加强代议制民主。它们可能会在对话中增加 ‘声音’,但是它们不太可能支持和维持20世纪成功民主的主要形式 —— 那些指定代表他们进行辩论和立法的民主,这些代表来自具有和政党一致的既定意识形态的平台。

我们开始看到的是对话式 “社区” 的发展,这些社区模仿真正的民主行动,但是,它们不向参与者提供实际权力,比如意大利的五星运动,或者出现像奈杰尔·法拉奇的 Brexit 这样以个人为主导的单一议题的组织。

就像五星运动和 Brexit一样,未来的政治运动有可能利用社交媒体提供民主对话的机会,但是,实际上并不赋予参与者控制或指导运动的权力

社交媒体技术正在创造民主政体的畸形,它们将具有看起来和感觉上都很民主的设计属性,但它们的核心将是专制的。”

一位匿名受访者评论:

“随着 DeepMind 式的算法被应用于互联网上的材料,今后对个人评论的追踪程度将大大增加。人们在不知道自己的态度被各种组织记录和积累的情况下发表评论将变得更加困难,因此人们将不愿意说出自己的想法。因此,言论自由将受到限制,从而阻碍了民主进程。”

美国一所大学的电子工程和计算机科学教授、未来通信网络专家写道:

“社交媒体使政客有可能以有针对性的方式接触选民,从远处传递针对特定目标的信息,而不是促进当地社区的讨论和参与。

互联网服务平台缺乏隐私,加上人工智能和大数据,现在使候选人有可能以几年前无法想象的方式识别和影响选民。

如果不采取纠正行动(如限制使用公民私人信息的新选举规则),这些新能力可能会导致政治更加不稳定,并可能导致整个民主制度的崩溃。美国似乎是西方世界第一个变成这样的牺牲品。”

Sam Adams 是一位在IBM工作了24年的老员工,现在在RTI担任人工智能领域的高级研究科学家,为全球利益构建国家规模的知识图谱,他说:

“互联网为每个人提供了一个全球性的扩音器,因为任何人都可以即时和基本上免费地发布意见和观点。每个人都有一个传声筒,但问题是,我们被淹没在更多的噪音中,而不是有用的信息中。

这就更麻烦了,因为各方利益集团利用自己的权力和资源,将自己的声音放大到远远高于普通公民的程度,甚至将普通公民弱小的声音埋没在利益集团控制的山崩地裂的声音之下,有效地压制了普通公民的声音。

鉴于利益驱动的新闻周期和社交媒体的回声室,只有最响亮或最极端的声音才会被重复

这进一步加剧了公众讨论的情绪化程度,促使听众走向极端,而不是更多的共同点。

一个民主国家要想成功,就必须公平地代表人民的意见。而在这个技术主导的世界里,这种公平性的一部分必须包括平衡各种声音的音量。”

驻澳大利亚的商业未来学家和顾问 Philip Rhoades

“随着世界第六次大灭绝的不可避免的结束,新自由主义的西方发达世界正在滑向法西斯主义。

随着这种生态崩溃和政治倒退的进行,现代技术将大部分被用于压制绝大多数人/公民。有些技术可能会帮助保护民众免受国家的镇压和恐怖,但是,从大的方面来说,它的效力将是微不足道的。”

加利福尼亚大学梅西分校计算认知神经科学教授和研究员 David Noelle

“在美国,政策和舆论越来越多地被塑造为支持权力利益而不是人民的利益。监管被视为对我们陷入困境的经济的威胁,鼓励企业权力推行危险的短视战略,仅仅为投资者创造回报。

没有被代表的人已经被旨在维持当权者的选举过程压制住了。我们这个时代最有影响力的技术都被设计为依赖于大型集中式基础设施。

专注于依赖可控基础设施的技术,无论是私人持有还是由政治权力操纵,都会加强目前掌权者的地位,越来越限制人民要求民主代表的能力。

请注意,这个意见并不是要呼吁限制技术,而是,呼吁从根本上改变政治和经济体制,以便为全体人民提供代表权。一个更加民主的制度将产生更多的民主技术”。

居住在加勒比地区的独立互联网活动家 Deirdre Williams

“我们被教导说,便利是最重要的优先事项。‘创新’ 正在扼杀独创性。我期望在未来10年内,钟摆会朝相反的方向摆动,但这需要一段时间来修复公民和政府之间的鸿沟,并提醒政府对所有公民的照顾责任。”

经验丰富的首席经济学家和国际经济顾问 Scott B. MacDonald

“未来很有可能成为一个黑暗的奥威尔式的地方,在少数富人和权贵控制下的强大技术和被机器变成经济上多余的、等待每天一剂 Soylent Green 的被洗劫的广大群众之间摇摆不定。

一个很大的变化是,人们可能不再需要去投票,而是通过手持或植入的通讯设备进行投票。如果我们不小心,技术就将成为加强控制的设备,而不是民主,就像在中国那样。面部识别任何人都可以吗?”

《A Theory of Persuasive Computer Algorithms for Rhetorical Code Studies》的作者 Estee Beck:

“除非国会采取行动,通过保护消费者的立法,限制监视资本家的监控行为和对隐私的侵蚀,否则民主机构将面临更大的危险,来自国内和国外的威胁,失去美国公众的信任,私人技术公司在市场中贬值。

技术的基础设施,有问题的编程,可以用来渗透和深度黑客攻击;现在与当权者和寡头公司合作推动亲中国的监控增长、通过边境监控崩溃美国和墨西哥的关系、生物安全技术的营销、以及最终推广人工智能消费品和服务 …… 将分裂国家的信仰,让美国公众不再信任国会能为公共利益采取行动。”

驻欧洲的自由撰稿人和未来学家 Matt Colborn

“我不否认技术有可能加强甚至革新民主。事实上,这也是我在上世纪90年代革命之初所希望的。然而,从公民的角度来看,新技术已经完全降低了精神自主性和智慧选择的能力。为什么呢?

1)像 YouTube 这样的平台,由于使用专制算法,似乎更适合传播政治宣传和进行非自愿洗脑。

2)由于个性化媒体的 “回音室” 性质,极端的部落主义也在增加。

3)政府和企业正在摧毁任何一种隐私人权。读取思想的神经技术是其中的 ‘最后疆域’。现在这个最后疆域也正在被 “脑机接口” 瓦解。

问题还在于,陈旧的专制体制、右翼民粹主义和新科技之间的有毒互动。

这些效应意味着民主被淡化,而「监视」国家则被强化,深层的部落分野则更为加剧。

虽然肯定有反击运动出现,但是,经济上的不平等使得有钱有势的人基本上可以从这些发展中获得巨额收益,而我们这些普通人却不能。在这种环境下,那些想要进行政治创新的人将会感到异常的艰难。 ”

一位人工智能专家预言:

“‘民主’到2030年可能变成更加严重的精英主义。如果你是一个大公司,生活是很好的,但如果你是一个普通的工薪阶层公民,生活就完全不一样了。

谁在这个世界上有话语权,将更多地取决于金钱和权力。

公民技术专家会先承诺用技术拯救民主,但五年后就开始收费,因为 “必须有人为维护付费”。

而且他们会逍遥法外,因为没有人会记得政治权利是一种基本权利,而不是商品”。

一位匿名人士写道:

“最近香港的示威者要用现金购买单程交通卡,才能行使民主权力;但是,当大规模人脸识别技术实施后,这将是不可能的。基本上,民主行为几乎变得完全不可能。”

利用数字文盲:公民缺乏数字技术的程度和他们的冷漠会导致知情权严重下降,削弱民主和社会结构

研究声誉管理的圣母大学教授 James S. O’Rourke IV

“正如尼尔·波斯曼在1985年所写的那样,‘我们不再进行文明的公共对话。我们只是在自娱自乐,娱乐至死’。

数字化生活带来的更隐蔽的影响之一是对长篇文字的容忍度降低。人们,尤其是年轻人,会阅读,但是如果涉及到几段以上的文字,就不会阅读。他们中很少有人会买书看。

新闻网站发现,更多的人会点击视频,而不是滚动浏览一篇报道的文字。鉴于现在操纵数字视频图像是多么地容易,鉴于玩弄人们的先入为主和偏见是多么容易,鉴于我们社会中的大多数人在寻求新闻、意见和分析方面变得多么懒惰,那些试图欺骗、分散注意力的人现在已经占了上风。

没有人能够真正理解他自己的论点,除非他先了解过一个不同意的人的立场。这种了解如今越来越少。长期以来所预测的 ‘过滤泡沫’ 效应越来越明显。人们根本不会去寻找、阅读或花时间去理解自己不理解或不同意的立场。

相当多的人现在生活在事实、信息被歪曲、认知基础不足的情况下,无法做出深思熟虑的决定。准确的信息已经无法驱除错误的想法、宣传、影射或欺骗”

牛津互联网研究院高级研究员 Bernie Hogan

“没有公民的技术是资本主义的,具有明确的逻辑和无限的范围。

民主体制和公民社会是以边界和可理解的尺度为前提的,比如 ‘地方报纸’ 或 ‘省级电台’。而技术正在允许规模的超越,我们还认为这很好。当然,从传送和交付方面来看,这是非常了不起的;但是,社会凝聚力需要人们理解到,有一个连贯的、有边界的人群来关心和定义一个人的身份,接受或反对。它要求人们看到的和做到的东西不仅仅是作为消费者和偶尔的党派选民。

被誉为国际科技心理学专家的加州州立大学心理学名誉教授 Larry Rosen:

“我担心许多公众不具备判断真假的技能,扭曲的信息可能也确实会导致对内容的误解。”

范德堡大学教育和公共政策教授 Carolyn Heinrich

“随着互联网内容越来越多地由您认识的人和熟悉的地方为您定制,除非您自己努力进行更广泛的阅读,否则,您所接触到的信息和观点的范围只能不断缩小。(这就是定制人的专制)

为了将负面影响降到最低,人们必须主动努力扩大自己的交流圈和信息/知识来源。随着技术越来越多地渗透到学校的课程中,人们也需要审视技术厂商在他们的内容中到底传达了什么,谁是这些内容在教学视频中的 “代言人”。这是我们目前在研究中调查的要点。”

罗格斯大学公共政策和政治学教授 Cliff Zukin

“无论如何,在美国,伴随着技术使用的增加,政治冷漠程度也在增加。

一方面,技术转移了人们对治理和公民事务的关注;另一方面,技术的不断增加所带来的利益离心力,使得公民的核心知识基础和公民基本权利受到侵蚀。

这的确可以让群众运动更快地组织起来,给领导人施加压力,但是,右翼的、经济衰退后的民粹主义和反全球化,在我看来,并不是一件好事。”

一位匿名受访者说

“不幸的是,美国采取的是根本上不民主的程序,比如选举团,将继续被假新闻和技术支持的操纵所破坏,一些州拥有超大的选举团投票权,但通常缺乏教育,很容易受到这种利用。”

一所主要大学的互联网与社会中心的研究员写道

“我担心,敌对势力和trolls操纵舆论的容易程度只会越来越高,越来越复杂,导致选民掌握的事实信息水平越来越低,或者更糟糕的是,对投票和民主进程完全冷漠或冷嘲热讽的程度越来越高。”

圣路易斯大学政治学助理教授 Eric Royer

“规范的崩溃创造了一个伪真相的环境,这与政治两极化、尤其是边缘人群的政治两极化,以及公民对任何政府的不信任和冷漠直接相关。

技术,尤其是社交媒体平台中的技术,蕴含着无限的潜力,可以让世界不再陌生,然而,它在我们日常生活中的操纵和影响,在当前全球和国内的民主进程和机构中,确实被误解了。”

一位专注于人工智能中的公平性、透明度和问责制的研究科学家

“假新闻和像 deepfakes 这样的操纵媒体的兴起,埋下了对媒体和机构的更大的不信任,这正在破坏民主,导致民众的信息量减少,公民参与度降低。

人们不知道该相信什么,所以他们往往选择要么什么都不相信,要么相信自己的直觉。加之,利用社交媒体操纵策略来左右选举的外国行为者进一步破坏了民主的合法性。”

爱荷华大学传播学副教授 Mark Andrejevic

“我的大部分职业生涯都是围绕着技术对审议、公共问责和代表的民主进程的影响的深切关注而建立的。这是因为技术需要在其被应用的社会关系的背景下被理解,并且这些技术已经有利于特权抽象的消费主义个人主义,压制了参与式民主社会所必需的对共同、共享或重叠利益的基本承诺

当代信息环境(以及我们的设备和信息 “消费” 模式)所特有的超定制化和目标化形式,符合系统性拆除社会和政治机构(包括公共教育、工会和社会服务机构)的更广泛模式,而这些机构是建立在并帮助重现对相互依存的理解之上的,它们可以使人们所珍视的个人自由成为可能。

与许多人一样,我也担心政治两极分化的加剧,以及这种情况如何通过自动策划系统将虚假的和误导性信息武器化,使商业利益优先于公民需求。

这些趋势在社交媒体兴起之前就已经存在,如果没有社会和公民的基本形式的去技能化,这些趋势就不会如此强劲,而这种去技能化的结果是将固有的社会功能和实践卸载到自动化系统上,导致人们压制和误解整个相互依存的、共同性和公共利益的基本形式。我不乐观地认为,除非发生社会/政治/经济灾难,否则任何事情都不会改变这一方向”。

一位长期担任CEO的互联网和电信专家

“公民将越来越多地在不了解批判性分析和推理、不了解事实、甚至不了解法治的情况下采取行动。在所谓的 ‘打击不公正’ 的幌子下,我们将继续看到网络警戒主义、通过社交媒体的火力风暴、有效地 ‘审判和定罪’ 任何被指控为言行不支持其价值观的人。”

非营利组织的技术顾问 Gretchen Steenstra

“我担心的是更高速传播的信息没有包括所有关键的和支持性的信息。数据被用于在失去背景的情况下产生观点。消费者不会进行事实核查(在许多问题上都是如此,不管是哪个党派)。

美国人不关注社会责任或下游影响 —— 他们只想要即时结果。汹涌如潮的媒体削弱了人们寻求信息和形成自己观点的能力;持续的连接性阻止了思考,你的大脑无法放松。没有人可以反驳人们对理解的渴望。”

一家智库的技术与创新中心的研究员写道

“民主将由更多的人工智能系统驱动,这些系统将使一系列决策自动化。因此,个人对自己决策的投入可能更加有限,因为数据由机器推断

这将意味着与民主进程的联系更加松散,或者说是由人们通过主导平台看到、听到和感觉到的东西所驱动的联系。如果在涉及投票等具体用例时没有某种程度的政策约束,技术只会起到削弱公众信任的作用,同时,由于新兴技术所提供的复杂程度,技术也在减少对实际公众投入的依赖。”

德克萨斯州立大学名誉教授、组织变革复杂性专家 Philip J. Salem

“人们对如何使用互联网会越来越谨慎。每个人都必须更加小心使用。我担心的是,反射性的、下意识的反应会随着互联网的速度而迅速蔓延,并产生更多的悲剧性后果。”

旧金山大学计算机科学教授 Jeff Johnson

“如今的社交媒体鼓励未经核实的信息传播,这会扭曲决策和选举。人们往往很懒惰,甚至在不阅读文章的情况下就开始大肆评论,更不会检查文章的真实性。

在电视时代、社交媒体之前,想要放出关于政治对手或选票措施的虚假信息是很昂贵的,而且要受到打击 “虚假广告” 法律的约束。政治热门稿件必须资金充足、措辞含糊、时间谨慎(到选举前的关键时刻),才能左右选举。而现在不再是这样了,已经变得异常容易。对社交媒体的有力监管或许可以缓解这种情况,但在可预见的未来,这种监管似乎不太可能。”

作家 Pamela McCorduck

“我现在对民主并不乐观。互联网放大了已经伴随我们一段时间的趋势 —— 极端主义和冷漠。在过去的几次选举中,我们真正投票的潜在选民比例只上升了一两次。大多时候是惨不忍睹。

部分原因是压制选民的结果(不仅是将选民从名单上删除,而且还使投票过程远比需要的更繁琐)。

另一部分原因是选民意识到,当选官员更多的是对黑钱的依赖,而不是对选举他们的人的依赖。我希望我错了,我期待这个国家有未来。”

委内瑞拉中央大学社会技术影响问题研究员 Luis German Rodriguez:

“民主一直在被削弱。在新兴技术的支持下,无论你看向哪里,专制统治似乎都在不断加强”。

匿名受访者评论

  • “人们不会使用互联网来研究问题,相反,他们只会接受摆在他们面前的任何偏见。”
  • “问题是,随着批判性思维能力的削弱,真正的新闻与观点新闻(以及代替基于事实的严肃辩论的胡扯的盛行)缺乏适当的政策和治理原则,这些工具被用来传播虚假信息。”
  • “公众因注意力被操纵、导致推理能力减弱而更加容易受骗,成为那些试图侵蚀民主的基本制度的幕后黑手的可塑性目标。”
  • “我不关心技术,我关心的是人们是否有能力和意愿提升判断力。”
  • “对民主的最大威胁是人们缺乏批判性思维能力,无法区分真实信息和错误信息。”

发动信息战:任何人、任何地方、任何时候都可以将技术武器化,以针对脆弱人群和选举

高科技论坛的创始人、以太网和Wi-Fi标准的共同创建者 Richard Bennett

“社交媒体平台的经济模式使得这些工具不可避免地弊大于利。只要传播愤怒的情绪和虚假信息注定比传播事实、理性、科学和证据产生的利润更多,坏人就会继续获胜。

除非我们设计出一种新的模式,让做正确的事比作恶更有利可图,否则,好人只能一直输下去。……

我希望看到的一个假设性的变化是,出现一些社交媒体平台,这些平台对语气和情绪的控制较少,而更多的是对真实性和证据标准的遵守。如何让这种方法在经济上取得成功,是主要问题。”

Data & Society 人工智能顾问、哈佛大学伯克曼-克莱因互联网与社会研究中心研究员 Mutale Nkonde

“如果没有重大的监管,我们未来的选举将被那些能够最有效地优化社交媒体推荐算法的政党所统治。在当下,那些就是像剑桥分析公司这样的黑手,他们利用人们的恐惧、种族主义和仇外心理来影响世界各地的选举。”

秘鲁大学通信学副教授 Eduardo Villanueva-Mansilla

“各国政府在如何处理这些问题上缺乏一致意见,这与技术创新被滥用的可能性一样,是对民主的严重威胁。在未来十年,少数跨国公司的完全控制将完全超出发展中国家政府的监管和政策范围。这将加剧不稳定,而这种不稳定已经成为这些国家治理的一个典型特征。”

欧洲自主系统伦理学专家

“数字设备提供了越来越多的新手段,以增强当权者更深层控制人民的权力,并操纵民主的劣质替代品,使权势受益。他们对民众模拟和广播虚假的民主味道。限制人民权利和自主自由的决定,以所谓的安全为旗号,而实际上只是为了保护那些寻求权力和影响力的人的利益

新的数字手段(生物识别、面部识别、大数据、深度学习、人工智能)让当权者能够识别并对人进行深度描绘(职位、行为、位置、思维方式、思想、政治观点、生活水平、健康状况、出身、金钱、社会关系 ……等等)。

利益相关者可以利用这些设备对他们认为具有颠覆性的任何人实现压制,并且在必要时镇压。机器人和自主的人工智能系统将成为非常有效的工具,帮助教育那些不符合统治阶级强加的要求和规则的人。

这种模式将在世界上越来越多的国家发展,并将逐步缩小自由度,降低属于中低社会阶层的普通人的生活质量。

同时,可用的工作领域将越来越窄,因为人工智能和机器人将在大多数领域取代人类,并导致大多数人无法找到养活和满足自己的工作。”

互联网先驱 Larry Masinter

“传统的民主和民主机构依赖于地理上界定的选区边界。技术将加速跨辖区渎职行为的蔓延,不管你叫它勾结还是其他什么。”

一位匿名人士警告说:

“专制主义者将削弱制衡,把法院变成当权者的延伸,从而破坏代议制民主 —— 通过操纵数字媒体来煽动恐惧,掩盖真相 …… 极端的党派主义正在将我们所有的民主体制置于危险之中,以至于共享权力和有序过渡可能在10年内不复存在。内乱似乎不可避免”。

一位负责科学与工程的研究副院长

“未来10年,我们将看到目前利用技术进一步设计选举(包括选区划分)、并针对那些最容易被操纵的人(在所有政治方面)的趋势增加。其结果是,在民选政府中,利己的少数派观点(在许多方面都是极端的)所占比例过高,将政党赶下台的难度更大(特别是在美国这样的两党制中),而且,至少在一段时间内,政治语话权将继续分裂。”

一位为美国政府机构工作的顾问

“人们对技术的最大恐惧将是人工智能的使用。虽然目前我们可以控制人工智能,但是,随着时间的推移,我们将失去这种控制权。

这将发生在所有的技术领域,包括政府的技术领域。在某些时候,它将超越自己的程序设计,做它所认为的最符合我们利益的事。”

造成混乱:技术传播的现实扭曲正在粉碎已经摇摇欲坠的对民主制度的公众信任

世界五大技术组织之一的技术创新小组的领导人

“技术已经并将继续对民主造成巨大压力。首先,数字技术使少数有影响力的行为者能够非常容易地对公共舆论进行极大的控制。我们已经看到,他们对提供给公民的信息和呈现给公民的信息进行严格控制。第二,数字技术使行为者非常容易隐藏或掩盖他们的参与和意图。第三,数字技术使得通过捏造或放大虚假变得极为容易”。

C-PET名誉主席 Nigel Cameron

“我担心政府(本国和外国)、科技公司、和其他行为者利用数字媒体加深对公众认知的扭曲 —— 因为假视频等新技术使其更容易塑造舆论。在我们有意愿和技术来控制这些滥用行为之前,还需要很长一段时间。就目前的情况来看,政客的党派主义和马克·扎克伯格及其他科技公司的做法,预示着问题会越来越深。”

马里兰大学巴尔的摩网络安全中心助理主任 Richard Forno

“[技术]将削弱民主;它将继续加强回声室,不允许承认更不用说容忍其他不同观点、新发现、事实甚至现实。这将进一步助长公民之间的部落主义,并反映在当选官员的观点/行动中”。

墨西哥国立自治大学UNAM教授、互联网治理活动家 Alejandro Pisanty

“仇恨、两极分化、过度简单化和缺乏深思熟虑的现象现在和将来都在增加。它们比反击它们的方法更容易构建和传播。只要有想要操纵的人和容易被操纵的人存在,对选举和其他进程的操纵就会只会继续泛滥

其中受打击最大的将是美国,因为美国的民众很容易受骗,人们看不到自己正在遭受的最深层攻击。社会中一个更小、更聪明、更民主的部门与天真无知的人们的尖锐反应作斗争,是有希望改善的。更好的信息、具有复原力的系统(通过设计)和从本地到全球的各个级别的嵌套,多方利益相关者的讨论和决策的体系结构、以及很多的运气,可能会带来改进。否则,分裂和其他形式的黑暗日子就快速逼近”。

新加坡南洋理工大学教授 Rich Ling

“想要混淆/削弱合法信息的势力正在学习如何最好地利用这些系统。他们也在学习如何校准他们发送的信息,以便增强社会的分裂性。这种分裂利用了人的确认偏误,反过来又破坏了有效治理和民主所需的共同点”。

InterWorking Labs 首席技术官 Karl Auerbach :

“民主正在死于一个叫做 ‘利益相关者’ 的概念。这与技术没有什么关系,只是人们被引导着相信,他们没有足够的技术或足够的智慧来为自己做决定,技术专家应该代表他们做决定。我们正在走向的不是改良的民主(不论是直接还是间接),而是,更接近于 ‘利益相关者’ 的寡头政治。

Glyn Moody 是一位多产的技术记者、博客作者和驻欧洲的演讲者,他说

“谎言比真相更容易传播。事实证明,利用最新技术破坏我们认为安全稳定的东西要容易得多。事实证明,打击这种滥用技术的行为非常困难”。

一位来自美国顶尖科技大学的计算机科学荣誉教授写道

“随着人工智能技术被用来制作越来越逼真的虚假视频,随着软件人工智能宣传机器人的倍增可以被个人或小团体轻易复制和传播,越来越多的人将被虚假叙事所愚弄,从而削弱我们的民主。”

加利福尼亚州一所主要大学的社会学教授

“强大的政府及其盟友正在利用技术摧毁单一的、公认的真相的概念。虽然不一定能成功地将特定的信念植入公民的脑海中,但是,对真相的不断攻击会导致疲劳和认命,认为实际的真相无法得知,或者认为所有的政治行为者都同样糟糕。

这种走向冷漠让当权者的行为变得恶劣,更加集中了他们的权力。新技术是否能检测到机器人和假视频/音频,以及主流媒体和社交媒体公司是否负责任地行事,决定论公认的真相能否重见天日。”

PROSOCIAL 的项目主管 Alan Honick:

“我的工作重点是需要使互联网和相关的信息技术值得信赖和可靠。……对于目前的问题来说,最重要的变量是信息技术能否朝着成为值得信赖和可靠的信息来源的方向发展,目前的趋势所表明的是不能。”

专门研究新技术对现有法律框架的影响的法学教授 Annemarie Bridy

“在未来几年,当涉及到有效处理虚假信息和旨在操纵选民和选举结果的协调性操纵行为时,社交媒体平台有一个陡峭的山丘要爬。网上病毒性传播的虚假信息将继续对民主机构和选举的完整性构成严重威胁。”

Futureproof Strategies 合伙人 Stephanie Fierman

“许多党派都有动机发布虚假的、具有破坏性的声明和内容,让人们相信。在我们回到一个事实就是事实的世界之前,我们将看到真相和制衡的存在持续退化,而众所周知,这两者对于民主的存在是如此重要。”

国际自由开源软件中心创始主任 Satish Babu

“如果世界不认识到这些陷阱并采取纠正行动,技术很可能会对民主的质量和实践产生不利影响。尤其是,民主的实用主义将恶化为无所不用其极的斗争,人工智能将被用来从历史记录中挖掘或放大甚至创造候选人的前科,而社交媒体将被用来向每个公民推送这样的所谓 ‘事实’。”

上图中这本书在这里下载:

印第安纳大学信息学和计算机科学教授 Filippo Menczer

“技术 …… 是我们获取信息和意见的中介。这将在一定程度上加强民主,例如使其更容易检查事实。但它也会削弱民主,因为认知、社会和算法偏见的相互作用所导致的弱点不断被利用,并诞生新的弱点。总的来说,我的预测是,事情在变好之前会变得更糟。我们才刚刚开始讨论反制措施的法律意义,例如与社交机器人、虚假信息运动、压制言论和其他触犯美国第一修正案相关的问题。”

德克萨斯大学奥斯汀分校信息学院副教授 Kenneth R. Fleischmann

“技术将对社会产生复杂的影响,这将难以预测,这取决于技术公司、政府、媒体和公民的决定。 ……信任将是关键,绝不是是盲目的信任,而是基于透明信息来源的信任,可以帮助用户行使自主权和代理权。”

弱化新闻业:似乎没有解决方案,这些问题是由社交媒体支持的部落主义的兴起和可信赖的独立新闻业的衰落引起的

ICANN副总裁 Christopher Mondini

“由于对互联网的简单依赖,导致独立新闻和批判性思维和研究技能的下降,使公民更容易受到操纵和煽动。

越来越多的政治活跃的公民是数字原住民,对社交媒体成为辩论和影响的主要媒介之前的生活没有印象。

追求点击量、转发量和页面浏览量鼓励了极端主义或挑衅性的言论。病毒式传播的meme和言论提示分散了对深思熟虑的分析、审议和辩论的注意力。

当然,绝大多数公民在政治上并不活跃,但他们越来越多地消费新闻,并被动接受网络社区所塑造的世界观。对政治进程的参与可能会因为网络语话带来的短时间内被煽动的激情而上升,但它们可能会排挤掉更有分寸的声音。”

总部位于以色列的RAD数据通信公司首席技术官 Yaakov J. Stein

“目前的社交媒体具有破坏民主稳定的两极化效应。原因是宣传(和虚假信息)是根据人们已有的观点(根据他们在社交媒体上的行为)预测出、有针对性地量身定做的。

这就强化了那些已有的观点,强化了对任何反对意见者的贬低,削弱了接触反对意见的可能性。

其结果就是,新闻自由不再通过让人们从思想市场中进行选择来鼓励民主。相反,所谓的新闻自由权被用来保护虚假信息的传播,并被操纵以确保人们无法接触到所有的观点

也许更深层的结果是,试图保持开放心态的人们无法再相信网上提供的信息,但网上的免费信息已经导致必需花费更多资源进行事实核查的传统新闻机构破产。”

塔夫茨大学CIRCLE研究主任 Rey Junco

“我们可以预期,影响公众对候选人和选举看法的尝试不仅在进行,而且会继续取得成功。公民社会和政府对技术的使用首先会削弱民主和民主代表的核心方面,然后才会有技术系统和程序的重组,然后才会有助于加强民主的核心方面。

这里面有两个问题。1)网络空间中的意识形态自我筛选,由算法极化支撑;2)技术公司相对不愿意解决其平台上的错误信息问题。

通过网络获取新闻的个体(较大比例是年轻人 — 根据皮尤研究)会选择意识形态相似的媒体,很少阅读来自对立面的新闻。

事实上,这些人很少接触到温和的观点(Flaxman,Goel,& Rao,2018)。反过来,社交媒体不仅可以像网络新闻一样进行信息的自我筛选,而且这种自我筛选还可以通过算法策划的feeds来促进意识形态的分离。……

虽然各大科技公司都知道在2016年大选期间,错误信息是如何通过他们的网络进行推广和传播的,以及由此产生的国会听证会,但是几乎没有采取什么措施来减轻这种蓄意传播错误信息的影响。

情报界的分析显示,国家行为者继续试图在社交空间中操纵公众情绪,而传统渠道的两极分化加剧,使这些报告的影响降到最低。美国没有通过技术变革或公共教育来解决错误信息的传播问题,这使国家行为者更加胆大妄为”。

一位曾在微软工作过的计算机科学副教授

“我担心三个相关趋势。1)新闻生成的日益分散化;2)缺乏易于使用、面向公民的机制来判断视频等数字媒体对象的有效性;3)个性化生态系统增加了确认偏误和知识面狭窄的倾向。

这三种趋势都会减少知情选民的数量,增加社会分化。政府最终会减少对新闻生成和新闻传播平台的监管,但政府面临的一个关键挑战是如何吸引顶尖的技术人才;目前,这些人才大多被吸引到工业界,原因是更高的薪水和认为工作更有趣。

增加政府中技术专家的数量(包括作为公务员和政治家),对于使政府能够积极应对技术带来的负面社会影响至关重要。”

亨特学院政治学名誉教授 Kenneth Sherrill

“当我悲观时,我相信信息来源的碎片化将与选择性关注相互作用 —— 只关注那些人们期望认同的新闻来源的倾向。

这将产生更大的两极分化,而没有任何真正参与带来的调节作用和对民主进程的尊重。这可能导致民主进程的崩溃。

现在我很悲观。2020年的选举可能就是考验。”

一位总部位于欧洲的互联网治理倡导者和活动家说

如果目前的趋势继续下去,到2030年,大多数国家都不会有真正的民主。互联网基于定向广告的筹资模式正在摧毁调查性新闻和严肃的报道。越来越多的出版内容是虚假的和片面的。在缺乏可靠信息的情况下,公民无法做出明智的决定”。

保加利亚一项公益计划的协调员

“到2030年,我们仍将看到小团体与社区之间的战斗导致极端化。这将使政府有更大的权威性,并通过互联网建立更强大的控制权。”

互联网先驱、技术开发人员和管理员

“民主的基础是知情的公众。通过破坏新闻业的经济基础并大规模传播虚假信息,社交媒体对民主的基础发动了前所未有的攻击。报纸的下降,只是强调了一个不利因素,对政府的监督和投资者的信任产生了可量化的影响(以债券价格衡量)。”

独立开发者 Mike Douglass

“Facebook 向人们兜售了这样一种想法:竞相积累所谓的 ‘朋友’ 是一件好事 —— 然后人们就会关注这些‘ 朋友’ 说的话。

我们现在知道了,这些所谓的‘朋友’中很多都是机器人或恶意行为者。如果以这种方式继续下去,那么事情只会变得更糟。我们需要重新建立现实生活中获得朋友和熟人的方法。为什么要关注您不认识的人呢?不幸的是,技术让错误/虚假信息以惊人的速度传播。”

圣克拉拉大学法学院高科技法律研究所教授兼主任 Eric Goldman

“政客们已经接受了互联网通信,将其作为一个直接的渠道,向选民撒谎,而不需要传统媒体把关人的事实核查。只要技术帮助政客撒谎而不负责任,我们就没有什么善治的希望。”

Vision2Lead 的顾问 Janet Salmons 说

“互联网的权力不受管制地掌握在几乎没有社会责任感的商业实体手中,将继续瓦解民主和公民机构。

通过销售个人数据或在风险行为上获利的公司,对促进人们辨别事实与虚构所需的数字能力和高级素养方面并没有什么欲望。在美国,有可能阐明这种区别的自由新闻和教育系统正受到围攻。因此,即使有机会投票或以其他方式对决策提出意见,人们也是从完全信息不对称的状况下出发的。只有大数据认为的整体观点才能最终获胜。”

一位数字素养与技术的研究者和教师

“在早期的互联网时代,有人说它会带来权力的民主化。而我们现在看到的是强者拥有更大的、更压倒性的声音,占据了更多的空间,而不是更少。这导致了严重的两极分化,而不是思想的自由交流。任何落在热点问题中间的观点都会被该问题的两个极端宣布为叛徒,并被羞辱、被推到一边。”

【注:上述问题在中文舆论场中也非常明显。在强制你表明立场的语话环境下,理性分析将是最终的失败者】

匿名人士:“参与度的提高在很大程度上是媒体环境的产物,在新闻界缺失、限制或公然政治化的地方,这种参与将带有扭曲的信息环境的痕迹。”

响应速度太慢:随着变化的步伐加快,操纵技术的速度、范围和影响可能愈发难以克服

卡内基-梅隆大学人机交互研究所教授 Jason Hong

“基本上,1)小团体更容易造成大量的破坏(如造谣、深度造假);2)已经掌权的人比需要组织的人更容易使用这些技术。

在互联网的早期,新技术似乎在为新的声音赋权,这导致了很多乌托邦式的观点。然而,近年来我们看到,这些技术正在被用来巩固那些已经掌权的人的权力。

我们看到的形式是定向广告(被用于高度定位心理操纵的政治活动)、分析(被用于选区划分)、虚假信息和假新闻(被国内和外国势力有意无意地使用)以及过滤气泡,人们可以在其中寻找他们想听的信息。

我们还没有看到深度造假的政治影响,只是才刚刚开始看到警察部队广泛监控的影响。”

俄克拉荷马大学国际安全助理教授 Mark Raymond

“未来30年,民主至少面临三种基于技术的风险。

首先,国家行为者对投票数据和系统的实际或明显的操纵,将破坏公民对民主进程的信任。

第二,社交媒体操纵(国家、政治运动和其他非国家行为者)将加剧回声室效应,并加剧社会两极分化。信任的降低将加剧社会冲突,包括但不限于选举冲突。

第三,“深度造假” 将破坏对视频媒体报道的信任。

综上所述,这些趋势有可能使选民更愿意接受其政治中根本性的独裁转变。就算没有这种情况,两极分化的加剧仍非常有可能使民主制度的运作变得无比困难。”

尼日利亚国家信息技术发展局法律顾问 Emmanuel Edet

“民主、代表、选举和政府任期等核心概念将受到人工智能的极大破坏。社交媒体的使用加上看不见的人工智能驱动的认知塑造,正在操纵大众的意见,这剥夺了人们表达自己选择的权利,因为害怕与众人不一致而被排挤。”

澳大利亚悉尼 Disruptor’s Handbook 的创新经理 Matt Moore

“问题不在于基本的民主制度会改变,而是它们的改变远远不够。选举、投票、代表、政党 —— 这些东西都不会消失。但是它们的意义可能比过去更少了。随着弱小或不稳定的国家陷入专制民粹主义,世界上民主国家的数量会明显减少。

西方民主国家将继续老化,经济上更加不平等。像中国这样的国家将继续增长权力 —— 这类国家很擅长使用新技术来控制其人口。

每个人都在谈论区块链对民主的潜力,但大多是无稽之谈。问题不在于人们没有足够的投票机会,而是,没有人真正知道这一票意味着什么。许多投票的人 —— 或者说,没有投票的人 —— 对自己的投票意味着什么没有感觉。

这就是为什么他们依赖民调。协商性民主提供了一种潜在的政治参与和决策的新形式 —— 如果 (这是一个很大的 ‘如果’) 能够使它超越孤立的实验而发挥作用的话。”

一家美国主要新闻机构的资深技术记者

“我们的法律和宪法在很大程度上是为工业时代之前存在的世界而设计的,更不用说信息时代了。这些数字技术已经使民族国家过时了,而我们还没有掌握它们促进反民主力量的方式。”

驻欧洲的ICT专业人士和信息安全专家 Ian Fish:“我预计全球大公司和民主国家政府之间的权力不平衡将加剧,非常不利于民主。并且预计,非民主国家政府对民主规范的破坏会比民主国家的反应速度更快。”

驻巴基斯坦的未来学家 Puruesh Chaudhary

“民主需要发展为普通公民的利益进行谈判的能力,普通公民可能无法直接影响地缘政治中的关键决策如何进行,但是其自身总是会受到决策的影响。民主机构必须拥有能跟得上技术进步的速度运作的系统。”

当人们对技术的痴迷令其在现实中与他人拉开距离时,信任就会受到损害

多位受访者认为,在某些情况下,人类的 “慢” 是一种优势,但技术的过快速度正在阻碍生活中这方面的优势。他们认为,失去信任的主要原因是,许多人在经常充满污染的社交媒体环境中所花费的时间远高于面对面的时间,而只有面对面的现实交流才能产生同理心。

法国巴黎 Missions Publiques 的联合主任 Yves Mathieu

“技术创造了新的通信和信息形式,可能非常粗暴和分裂。一些粗鲁、暴力、表达非常糟糕的评论,侮辱或威胁公民。迫切需要面对面的交流形式,因为这些技术是专有的不允许进行审议。

需要与选民定期举行会议,在会议上,人们将有时间和机会彼此交换意见,并增加对彼此立场的理解。由于与媒体联系在一起,这将减少我们今天所知道的分歧,增加相互理解”。

旧金山州立大学传播学名誉教授 Arthur Asa Berger

“使用 Facebook 的人受到’净效应’的消极影响,他们表现出冲动、浮夸等,这在我的《媒体与传播研究方法》一书中有所解释。有的年轻人一天发100条短信,却从不与他人通电话,导致与他人和自己的彻底疏远。仇恨团体、新法西斯主义者、右翼思想家、恐怖组织等都在使用互联网。”

系统工程师 Japheth Cleaver :

“目前,主要的社交媒体网络的功能并不是中立的、并没有冷静地连接不同的传播者(就像电话系统那样),而是为了强化参与度,以尽可能多地销售目标广告。

这种强化会在整个社会文化中产生效应,人与人之间的情境互动也随之消失,转而享受电子通讯所带来的高效率 …… 互联网作为沟通的叠加是可以的。互联网作为公共空间的替代,就是有害的。”

纽约门罗学院政治学教授 Melissa Michelson

“未来将包括一个复杂的相互作用,即在线活动增加,但同时也会增加对这些虚拟互动的怀疑,并加强对线下信息和对话的欣赏。随着越来越多的成年人成为数字原住民,技术在社会中的作用不断扩大,并变得更加相互关联,民主和政治参与的更多方面将在网上进行。同时,包括假视频在内的深层造假日益复杂,将提升面对面互动作为未经过滤的和值得信赖的信息来源的价值。”

匿名回复:

  • “除非有透明度,否则技术将是新的数字原子弹。它的发展速度超过了个人或法律对其意外后果和邪恶使用的理解。”
  • “以目前那些拥有和经营大型科技公司的人无视和缺乏责任感的速度,我们正在走向对什么是事实什么是非事实信息的完全缺乏信任。”
  • “我们正在失去的是个人和社会的规范,而不是技术本身,这是许多问题的核心。与几十年前相比,现在人们面对面的礼仪大大减少了。”
  • “更快地访问数据和记录可以帮助公民了解情况并参与其中,但是更多的信息会淹没信息市场,人们消化信息的能力/时间/精力都很有限。”

最后

这篇文章所摘取的部分基本表明了目前存在的问题(略去了一些重复的观点)。关于对可能的解决方案的想法,您可以参见这里;但是在我们看来,这些方案依然相对保守,当然这是完全可以并且值得商讨的。

IYP并不排斥技术,我们希望的是技术的民主化,构建一个新的、能令从善获得收益的系统,取代现有的这个让作恶大发横财的系统,让监视资本主义被自动淘汰。我们认为除此外没有更好的根本性的解决方案。⚪️

Concerns about democracy in the digital age

One thought on “数字技术究竟是会杀死民主,还是拯救民主?:这个10年

发表评论

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据