被流行语掩盖着的 *技术专制主义* 时代

  • 技术本身就是一种政治现象。换句话说 技术本身就类似于一种立法形式 ……

本文来自一本新书的节选,《Too Smart: How Digital Capitalism Is Extracting Data, Controlling Our Lives, and Taking Over the World》您可以在这里下载这本书:《当下抵御反乌托邦的斗争为什么在很大程度上无用》。

您可以轻松地将所有愚蠢的东西换成所谓的智能替代品。智能现在正成为新常态。您甚至不必寻找它。“升级” 将在您家里、您的工作场所、您居住的城市中全面出现。

智能雨伞会亮起,提醒你天气预报说有雨;智能汽车在高峰时段接管了繁重的驾驶工作;智能的虚拟助手服从你的每一个命令,了解你的喜好和习惯,并自动做出相应的调整 …… 几乎一切 —— 无论是手里的梳子还是居住的城市 —— 几乎可以肯定有一个智能版本,甚至多个版本可供选择。

人们并不总是清楚为什么要把那些普通东西变得 “智能”,但这并没有阻止所谓的智能在社会中的传播。很多时候,它看起来很傻,且没有必要,甚至令人讨厌、毛骨悚然。但任何事物、任何空间,都无法避免智能化的影响

除了表示所谓的 “高科技” 之外,智能的东西到底意味着什么?现在这个标签被胡乱贴上,所以定义并不总是清晰和一致的。但是,有一个更好的、简单的定义,那就是: “智能” 意味着一个东西被嵌入了数字技术,用于数据收集、网络连接和加强控制。

以智能牙刷为例,它使用传感器来记录你刷牙的时间、时间长短和刷牙效果。由于智能牙刷具有蓝牙功能,并嵌入了软件,所以它会将这些刷牙数据发送到制造商或第三方所拥有的云服务器上。

然后,你和你的牙医可以通过一个应用程序来获取数据,该应用程序为 “用户提供实时的刷牙指导和性能监测”,为你的日常牙齿卫生评分 —— 正如市场上一款智能牙刷所宣称的那样。

根据您的牙科保险计划,您获得的卫生评分也会直接影响您的月保险费

被认为刷牙 “好” 的人可以得到折扣,而被认为刷牙 “不好” 的人则会受到惩罚。一个诚实的广告语可能是:“有了智能牙刷,我们知道你嘴里发生了什么!”

这些 “被施了魔法的物体”,就像麻省理工学院媒体实验室的一位企业家所说的那样,“会对人们的需求做出反应,来了解人们,甚至学会代表人们提前思考。” 【简单说就是操纵你

虽然智能科技的奥妙可能让人觉得就像一种能够施展数字法术的神奇魔法,但我打算打消任何认为我们居住在迪斯尼幻想曲的魅力城堡中的想法。如果有的话,它更像是 Sabrina 中的恶魔世界,每一个咒语都是有代价的,意想不到的后果比比皆是。

所谓的智能科技所提供的适度便利,换来的是我们对为什么现在的生活中充斥着收集数据、连接互联网的机器的太多疑问。为什么现在所有的东西都变得 “智能” 了?背后还发生了什么?谁才是真正的受益者?

时不时发生的丑闻 —— 当一家公司被发现令人毛骨悚然地追踪人们或其数据库被黑客攻击时 —— 足以让我们将集体的嘲笑集中在一个特定的问题上,但是,它通常不足以刺激更深入的批判性探索。丢脸的公司会发表假惺惺的道歉声明,然后一切都会被原谅 —— 如果不是明确的话,当我们忘记了侵犯行为或者只是习惯于侵犯事件时,一切都会被有效地原谅。而再次允许它们回到它们的常态。继续操纵人们按照计划购买、使用和升级。

智能科技被当作不可避免的下一代技术来销售。

你可能会选择不主动升级,但是最终依然很可能做出选择。智能化过去是高级选项,而现在却成为了标准配置,所有东西都默认集成了传感器、计算能力和Wi-Fi连接。这不仅仅是我们现在对新的小工具所期待的 “功能蠕变”,即更多的按钮和设置被塞进同一个电器中。智能科技的迅速崛起 *并不* 仅仅是消费者要求更智能的东西、更智能的家庭和更智能的城市的结果。

相反,在某些技术的制造和使用方式上,企业和政府的利益比消费者的选择更具影响力。让事物变得智能是一门大生意:到2020年,仅智能城市领域的市场价值预测 —— 还不包括住宅、办公室和消费品 —— 就徘徊在1万亿美元左右。

虽然一些市场研究公司看好 —— Frost & Sullivan 预测智能城市的价值为1.56万亿美元,但即使是保守的预测也往往在5000亿美元以上。

研究公司 Gartner 预测,全球正在使用的 “联网物品” 数量将继续呈指数级增长,从2017年的83亿增加到2020年的204亿。媒体对智能科技的报道往往陷于对酷炫小玩意的盲目兴奋和对隐私和网络安全威胁的无知之间。

智能科技的影响太重大、太普遍了,不应该如此老生常谈。对智能科技及其创造者采取被动、浅薄的立场是一个严重的错误。智能科技正在形成的不仅仅是一种趋势。它已经成为我们生活和社会中一种无孔不入的强大存在

因此,它被标记为一种急需批判性分析的技术范式。如果我们不把它当回事,那就太不负责任了。

重要的是要明白,技术过程的每个阶段 —— 从设计到使用 —— 都充满了政治性,甚至源于政治。这并不是呼吁将技术政治化,而是强调将技术从政治关注和后果中移除的想法是完全错误的。

这是在呼吁人们认识到:政治一直是、并将继续是技术的一个重要组成部分。我们应该从利益、必要性和影响三个方面来分析新兴智能社会的技术政治。简而言之,我认为有三大技术政治点。

  • 智能技术提高了公司技术官僚权势的利益,超越了人类自治、民主权利等其他价值观。
  • 智能技术受到数字资本主义双重要求的驱动:从潜在的所有人中提取数据并扩展其控制范围。
  • 在扎克伯格的意义上,智能技术的影响是浮士德式的所谓便利和连接性交易,以换取各种(意外)和(未知)的结果。

【技术公司鼓吹的便利性究竟是什么?《便利的暴政》】

技术是实现利益的一种方式。技术远非客观或中立,而是蕴含着价值和意图。技术毕竟是人类决策和行动的结果,然后被人类带着动机和目的使用。

正如社会科学家、历史学家和工程师数十年来的仔细研究所表明的,任何技术的存在都不是必然的,所有技术都是由社会过程形成的。每一项技术的背后都有一堆人类的选择,比如应该解决什么问题,应该如何使用资源,人们为什么要使用这个东西,应该在哪里进行权衡,以及许多其他的选择,这些选择归根结底是做X而不是Y或Z,即使有很好的理由做出这些决定,它们仍然是基于一定的动机、原则、价值观、目标等等。

因此,这不是一个技术是否政治性的问题,而是:政治是什么?

著名的技术政治学理论家 Langdon Winner 认为,“技术本身就是一种政治现象”。这不仅意味着技术是一种需要立法来规范其生产、特征和使用的东西。它意味着技术本身就类似于一种立法形式,因为 “技术形式确实在很大程度上塑造了我们这个时代人类活动的基本模式和内容”

不管是指制定政策还是建设技术,有什么能比一些人拥有决定其他人如何在世界上生活的权力更具有政治性的呢?

法律制度是一套规则,规定什么是被允许的,是人们拥有什么权利的框架,是我们将生活在什么样的社会中的计划。而技术系统以不同的方式做同样的事。它们是一套关于什么是被允许的和不被允许的规则,关于人们有什么和没有什么权利的框架,以及关于我们将生活或无法生活在什么样的社会中的计划。

技术就像立法:有很多技术,它们做的事不尽相同,有些更重要,但作为一个系统,它们共同构成了社会的基础

即使是最专制的独裁者,也无法像计算机执行其代码那样严格和一贯地执行法律条文。就像法律一样,技术被精英集团所利用,以提高他们自己在世界中的地位、操纵大众对世界的看法。

如果说技术是一种立法形式的话,那么我们就必须审视那些立法者。他们不仅仅是制作更好的机器的工程师,测试新设计的创新者,或者大胆冒险的企业家;他们是技术官僚,创造着塑造社会和管理人们的系统

如果忽视智能科技的政治,我们就会让强大的利益集团驻扎在阴影中,对我们的生活施加可怕的影响。

在实证研究的支持下,政治学家们一致认为,美国现在已经不是民主国家,而是一个寡头制国家。普通民众对哪些政策被付诸法律几乎没有任何发言权,而富豪精英的喜好几乎总是得到政策的支持。

不止美国。不仅在许多其他国家都可以看到这种政治上的不平等,而且制定政策的寡头与创造技术的寡头几乎完全一样。技术的设计和开发由少数人主宰,而世界上的其他人则必须忍受这些决定。当公民被剥夺了影响政治进程的权利、当他们被排除在有意义的投入和追索渠道之外时,我们理所当然地应该称这种政权为独裁政权。

两个主要且必要的条件推动了智能技术的设计、开发和使用,那就是:收集和控制。

利益是关于谁的价值和声音能被包含在内,而要务则是关于影响更深、范围更广的总体原则和目标。例如,利益动机是资本主义的必要条件,它推动企业实现利润最大化,通常是首要或唯一的必要条件。理解这些必要条件以及它们如何通过智能技术表现出来,将揭示出许多关于技术政治在社会中如何运作的问题。

收集的迫切性在于,通过任何可能的手段从所有来源提取所有数据。它迫使企业和政府在任何地方收集尽可能多的数据。就像你知道企业以利润为导向一样,现在您理应明白他们以数据为导向。这就是为什么如此多的所谓智能科技都是为了吸纳数据而生的。

对于许多行业来说,数据是一种新的资本形式,因此他们一直在寻找和利用新的方式来积累数据

控制的必要性在于建立监视、管制和操纵整个世界和人的系统。它的代表是孜孜不倦的监控系统,帮助企业和警察管制人群、控制访问准入、并改变人的行为习惯。

正是在这种权力的需求导致到处都嵌入了传感器,一切都与互联网相连,并依靠自动化来监视这一切。智能科技的建立是为了扩大和增强控制的权力,无论是通过软件应用对物体的远程控制,还是通过算法分析对人群的社会控制。

关键的问题不是控制本身,而是谁对谁有控制权

收集数据需要技术能力和社会权威来探测事物、人和地方;控制系统以数据为动力,可以更精细、更有效、更即时地指挥这些事物、人和地方。智能科技就是这两种需求的后代。

很难低估这些必要条件对智能科技设计和使用的影响,它们表现在广泛的应用、空间和规模中;这包括从机器人吸尘器秘密绘制用户的家庭地图,以便其制造商可以将这些 “丰富的地图” 出售给其他公司,到保险公司监控人们的驾驶、运动和饮食方式,以便他们可以奖励一些行为并惩罚其他行为。

【和中国的“社会信用评分”没有本质区别,都是以极少数人的价值观为标准对绝大多数人进行奖惩和操纵】

作为必要条件,收集和控制并不是新东西。我们生活在资本主义之下,这些必要条件从一开始就是资本主义的组成部分。

关于资本主义如何以不断创新的方式来获取利润并对一切 —— 社会与自然、人类与非人类、心灵与身体 —— 行使权力的研究,足够装满整个图书馆。我在这里的目的是要说明在数字资本主义和智能科技时代,这些双重要求是如何运作的。然后,我们可以理解所谓的智能科技是如何、为什么以及为谁设计的。我们可以确定影响技术发展的趋势和主题。我们可以对近期的前景做出明智的预测 —— 如果我们继续沿着同样的道路前进的话。

智能科技已经变成了病毒式的传播 —— 几乎在社会的所有空间和生活的各个部分都在传播、感染、复制、颠覆和繁荣。

技术和文化学者 David Golumbia 和 Chris Gilliard 在2018年初写了一篇文章,总结了许多 “荒唐” 的科技公司入侵我们的个人生活、影响我们的行为、无视我们的利益、和强制执行自己的价值观的方式。

以下只是他们一长串例子中的几个样本:一个营利性服务跟踪和销售处方数据;一个应用程序被提议在社交媒体上 “观察” 自杀意图;一家振动棒制造商跟踪用户的性生活,但隐瞒它正在这样做的事实;一所学校利用其分发的笔记本电脑中的摄像头来监视学生 ……

尽管它们都有着所谓智能的标签,但不同类型的智能科技往往被当作是(完全)相互独立的。佩戴的智能手表、您家的智能家居、和您居住的智能城市很少被放在一起审视。很多人认为与其把它们作为一个统一系统的碎片来分析,不如把这些联系割裂开来,好像在不同地方运行的智能科技在某种程度上是不相关的。

这是具有讽刺意味的,因为像思科和谷歌这样的许多大型科技公司的明确目标是将所有的东西和每个人都接入一个单一的巨型网络 —— 一个 “系统的系统” —— 当然,这个系统是由他们构建和控制的。IBM将他们的项目称为 “Smarter Planet”,他们大胆地宣称 “这不仅仅是一个新战略的宣布,而是一种新的世界观的宣示”,从而相当清楚地显示了他们的野心范围。

有一些共同的利益和需求影响着不同类型、规模和空间的智能技术的设计和使用。换句话说,我们不应该把这些技术看成是独立的、不相关的,而是应该把它们看成是一个强大的、并且仍在继续强化的数字资本主义技术政治制度的一部分。只有这样,我们才能真正地应对它们对社会的影响。⚪️

发表评论

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据