看不见的黑手:自动化未来的政治

  • 您所依赖的东西,就是能控制您的东西。你甚至看不见它们,也正因此,无力抵抗…… 

编者按:我们曾经说中国社会可能难以理解数字殖民的概念,至少不会像全球南方国家那样理解;中国就是殖民者之一。

但这只是宏观的描述。数字殖民这一概念必须被扩充到微观层面,关于,如今究竟谁是这个世界的真正统治者?万能的操纵者,所有人类都在他的控制之下?不,不是某个政府,不是某个间谍机构,也不是某些政客,而是,数字技术 —— 准确说是控制全球的技术寡头:FATBAG(FB Amazon Tencent Baidu Alibaba Google)。中美均分

任何使用数字技术的人都是他们的奴仆 —— 包括政府和间谍机构。后者不愿意接受这点,于是他们努力吸纳/合作那些掌握数字技术的寡头。

而我们这些普通公民中很大一部分人仍没能理解到这一点,这会对有效反抗形成根本性的阻碍。

本文来自《The Glass Cage: Automation and Us》这本书中的一个章节。这本书出版于6年前,可以说其中一些思考已经不新,但是,如上所述,对于我们中很多人来说,这本书中提供的思考依旧值得研究。

您可以在这里下载这本书:https://www.patreon.com/posts/nin-suo-yi-lai-40000120

Excerpted from The Glass Cage: Automation and Us by Nicholas Carr. Copyright © 2014 by Nicholas Carr. With permission of the publisher, W. W. Norton & Company, Inc. All rights reserved.

Nicholas Carr writes on technology and culture. In addition to The Glass Cage, his books include The Shallows, The Big Switch, and Does IT Matter?

早在1990年代,就在互联网泡沫开始膨胀之际,人们对 “无处不在的计算” 感到兴奋不已。权威人士向人们保证,很快,微型芯片将无处不在 —— 嵌入工厂机械和仓库货架中、贴在办公室和房屋的墙壁上、安装在消费品中并缝制在衣服上,甚至可以植入你的身体。

配备了传感器和收发器的微型计算机可以测量从金属疲劳到土壤温度再到人类血糖等各种你能想到的变量,并且,它们可以通过互联网将读数发送到数据处理中心,大型计算机可以处理这些数据并输出说明,使所有内容保持规范和同步。

计算将是无处不在的。我们的生活将实现自动化。

炒作的主要来源之一是著名的硅谷研究实验室 Xerox PARC,史蒂夫·乔布斯(Steve Jobs)在此找到了 Macintosh 的灵感。

PARC 的工程师和信息科学家发表了一系列论文,描绘了一个未来,在这里,计算机将被深深地编织到 “日常生活的结构” 中,以至于与生活 “无法区分”

我们甚至不会注意到我们周围正在进行的所有计算。我们会被数据充斥、被各种软件围绕,以至于没有感到信息过载的忧虑,反而 “沉迷” 于此。听起来就跟田园诗一样 ……

全面自动化的兴奋还为时过早。90年代的技术不足以使整个世界变得机器可读,并且在网络泡沫崩溃之后,投资者已经没有心情资助那些到处安装昂贵的微芯片和传感器的项目。

但是,在随后的十五年中,情况发生了很大变化。如今的经济方程式已经完全不同了。

电子设备的价格已大幅下降,高速数据传输的成本也已下降;电子算设备的价格已大幅下降,高速数据传输的成本也已下降。像亚马逊、谷歌和微软这样的寡头已经将数据处理变成了实际效益。

他们建立了一个所谓的云计算网格,在集中化的工厂中收集和快速处理大量信息,然后将其输入智能手机上运行的应用程序或机器的控制电路中。

随着 GE 和 IBM 等技术巨头推动所谓的 “物联网” 的创建,制造商正在花费数十亿美元为工厂配备网络传感器。

现在,计算机几乎无所不在,甚至这个世界最微弱的抽搐和颤抖也被记录为二进制数字流。当年的 PARC 研究人员开始看起来像先知一样。

自动化时代

一套工具和基础架构之间存在很大差异。工业革命只有在将其运营假设构建到庞大的系统和网络中之后,才能发挥出全部力量。

十九世纪中叶的铁路建设扩大了公司可以服务的市场,为机械化的批量生产提供了动力。几十年后电网的建立为工厂组装线开辟了道路,并使各种家用电器变得可行且价格合理。

这些新的运输和电力网络,以及随之而来的电报、电话和广播系统的铺展,赋予了社会不同的特征。它们改变了人们对工作,娱乐,旅行,教育甚至社区和家庭组织的思考方式。

它们以远远超出蒸汽动力工厂机器所能完成的方式改变了生活的节奏和质感。

历史学家 Thomas Hughes 在其《网络的力量》一书中回顾电网的到来时,描述的首先是工程文化,然后是商业文化,最后是社会文化如何形成新系统。他写道:“人和机构发展出新的特征使其自身适合技术的特征。”

“而且,无论是技术人员还是非技术人员,人、思想和机构之间的系统性互动都导致了具有大规模运动和导向的超级系统(一种社会技术系统)的发展。”

正是在这一点上,Hughes 所描述的 “技术动力” 在电力行业以及对其支持的生产和生活方式等各种方面都成立了。

在自动化历史上,我们曾经也遇到了类似的关头。社会正在适应通用计算基础架构,其速度要比适应电网更快,并且新的现状正在形成。

社会运营的基本假设已经改变。圣塔菲研究所的经济学家和技术理论家 W. Brian Arthur 解释说:“曾经发生在人类之间的业务流程现在都在以电子方式执行。“它们发生在完全数字化的看不见的领域。”

例如货运。不久前,要协调跨越国界的货物运输,就需要大量人力工作人员。而现在,它完全由计算机处理。正如 Arthur 所说,越来越多的业务通过 “完全在机器之间进行的大量对话” 来实现管理。

一切的前提都是,你需要拥有能联网的计算机。任何一家规模较大的公司都别无选择,只能先自动化然后再谈其他一切。

它们必须重新设计其工作流程和产品,以实现更大范围的计算机监视和控制,并且必须限制人类参与其供应和生产过程。毕竟人类跟不上计算机之间的对话,人类被认为是拖后腿的东西。

科幻小说家 Arthur C. Clarke 曾经问道:“人与机器的合成是否能保持稳定,或者,人类是否会逐渐沦为一种阻碍、变成必须被丢弃的障碍?” 至少在商业世界中,似乎没有人与计算机之间稳定的工作划分。

流行的计算机化沟通与协调方法几乎可以确保人类的作用在不断缩小。我们设计了一个最终会丢弃我们的系统。如果失业率在未来几年内继续恶化,则更多的原因可能是这个新的全方面自动化基础设施,而不是工厂中任何特定的机器人或办公室中的软件应用。

机器人和应用程序只是整个更深层的自动化体系的表面现象,是那个广泛的、侵入性的根系统的可见部分。

该系统也促进了自动化技术的广泛传播。从提供政府服务到发展友谊和家族关系,社会正在重塑自己,以适应新的计算基础架构的轮廓

超大量的数据为预测算法提供了原材料,这些预测算法现在正在操纵/塑造个人和群体的决策。即 少数派报告。

它为教室、图书馆、医院、商店、教堂和家庭的自动化提供了支持,而这些地方传统上是以人与人之间互相联系为基础的。

它允许国家安全局和其他顶级间谍机构、以及犯罪集团和爱管闲事的寡头公司以前所未有的规模进行监视。

这就是为什么我们大量的公共讨论和私人对话被分散到了小屏幕上的原因。它使各种计算设备能够全天指导每个人的一举一动,提供源源不断的个性化警报、说明和建议。

人和机构再一次开发出适合于当前技术特征的特征。工业化并没有把我们变成机器,自动化也不会使我们变成自动。但是,自动化的普及正在使我们的生活更具可编程性。

我们很少再有机会展示自己的机智和创造力,展示曾经被认为是性格支柱的自力更生。

随着计算机尺寸的不断缩小和功能的不断增强,从我们手中握持的设备到身体佩戴的设备,这种趋势还将会进一步加快。

透过 “眼镜”

这是一个奇怪的演讲。活动是2013年的TED会议,于当年2月下旬在洛杉矶附近的长滩表演艺术中心举行。谷歌老总 Sergey Brin 看起来烦躁不安、声音令人沮丧,据说他还是谷歌两位创始人中比较外向的一个呢。

他在那里为该公司的 “头戴式计算机” Glass 进行市场推广。他从对智能手机的轻蔑评论开始,哪怕谷歌凭借其 Android 系统已将其推向了主流。

Brin 从口袋里掏出自己的手机,不屑地看着它。他说,使用智能手机 “实在太娘了 …… 你知道,你站在那儿,就像在擦一块毫无特色的玻璃一样。”

他表示,除了 “社交孤立” 之外,凝视着这个小屏幕还会削弱人对实体世界的感官参与,他说 “你真的想对自己的身体做这种事吗?”

然而,Brin 却反过来赞扬 Glass 的好处。他说,新设备将为个人提供一个非常优越的 “外形”。通过解放人们的双手并使他们的头部保持平视,该设备将使人们与周围环境保持联系。他们将 “重返世界”。

他还强调了其他优点。通过永久地放置屏幕,计算机化的 Glass 将允许 Google 通过其 Google Now 服务以及其他密切跟踪的和个性化的例程,在设备感觉到有人需要建议或帮助时可以及时向他们提供相关信息。

该公司将实现其最大的野心:使信息流自动进入人的头脑。Brin 说,有了 Glass,您将完全不必在网页上搜索了。您无需制定查询或对结果进行排序,也不必跟踪链接的踪迹。只要有需要,您就可以得到信息。”

Brin 的尴尬演讲引起了技术博客的一片嘲笑。不过,他有一点说的没错。智能手机的确是一种绑架。人脑无法一次专注于两件事。每次在触摸屏上扫一眼或滑动,都会使我们远离周围的环境。

当然,人们总是会分心。注意力不断徘徊、漂移。但是人类还从来没有遇过这样一种工具,它如此执着地吸引你的所有感官并分散你的注意力。

通过将人们连接到象征性的其他地方,正如 Brin 所暗示的那样,智能手机将人们从现实中驱逐了。人失去了存在的力量。

但是,Brin 对他的 Glass 将解决问题的保证无法令人信服。虽然有些时候解放双手将是一个优势。但是,凝视漂浮在您面前的屏幕需要的注意力投入不亚于扫视一下您腿上的屏幕。而且,可能需要得更多。

对使用平视显示器的飞行员和驾驶员的研究表明,当人们查看投影在环境中的文本或图形时,他们容易受到了 “注意力隧道” 的影响 —— 他们的视线变窄,眼睛注视着显示屏,并且对视场中发生的所有其他事物都视而不见。

在飞行模拟器中进行的一项实验显示,飞行员在降落过程中使用平视显示器查看跑道所花费的时间比不得不瞥一眼仪表读数的飞行员所花费的时间更长。前者甚至都没能看到一架停在他们前面的飞机。

所谓的穿戴式计算机,无论是像 Glass 那样戴在头上的,还是像 Apple Watch 那样戴在手腕上的,都是诡异的新玩意、其作用尚未得到证实。

为了获得广泛的欢迎,这些推销者必须克服一些大的障碍。目前它们的功能很稀疏,看上去很笨拙,其内置的摄像头和传感器使很多人担心自己的隐私。

但是,就像之前的其他个人计算机一样,它们会快速改进,并且几乎可以肯定会演变成不太突兀的,更有用的形式。简单说,可穿戴设备很可能变成常态。

不过,Brin 误以为,Glass 和其他此类设备代表了对计算机历史的突破。它们为既定的技术动力提供了更大的力量。

最重要的是,随着智能手机使功能强大的联网计算机变得更加便携,它们还使软件公司可以对每个人生活的更多方面进行编程。结合廉价、易用的应用程序,他们允许使用云计算基础架构来自动化最繁琐的事务。

所谓的智能眼镜和手表进一步扩展了自动化的范围。算法生成的建议不断指导人们关于下一顿饭在哪里或晚上穿什么衣服等日常生活。

别忘了,它们一直在充当个人监视器,允许将有关您的位置、思想和健康的全部信息传输回云。反过来,这又为软件编写者和企业家提供了更多使基本日常生活自动化的机会

编程你的头脑

随着人类越来越依赖应用程序和算法,如果没有它们的帮助,人们的行动能力就会越来越差 —— 不仅是注意力滑坡,基本生存技能也会滑坡。

这反过来继续推动了软件的 “必不可少”。自动化激励更多的自动化。每个人都希望通过屏幕来管理生活,社会自然会使其议程去适应计算机和程序。

用软件无法完成的事 —— 那些不适合计算并因此抵制自动化的事 —— 似乎已经变成了可有可无。

早在1990年代初 PARC 研究人员就认为,当我们不再意识到计算的存在时,我们就会知道它已经足够普及了。电脑将完全融入我们的生活,以至于我们根本看不到它们。

我们会 “不自觉地使用它们来完成任何日常任务。”

这已经不再是白日梦。现在,许多计算机公司和软件公司都表示,他们正在努力使其产品不可见。

硅谷著名企业家 Jack Dorsey 表示:“我对完全不可见的技术感到非常兴奋。我们通过 Twitter 进行此操作,并且通过[在线信用卡处理器] Square 进行此操作。” 苹果已经将 iPad 推广为“摆脱干扰”的设备。Google 接受了这个主题,将 Glass 宣传为 “摆脱技术障碍” 的一种手段。

拥有复杂技术的前景逐渐淡出人们的视线,因此可以毫不费力地使用它,对使用它的人和对销售它的人一样有吸引力。

纽约时报专栏作家 Nick Bilton 写道:“只有在缓慢的文化和个人适应过程之后,技术才会消失。当我们习惯于它时,技术开始对我们施加更多而不是更少的控制力量。我们可能已经忽略了它对我们生活的限制,但这些限制仍然存在。

正如法国社会学家 Bruno Latour 所指出的那样,一种熟悉的技术的隐形性是 “一种光学错觉”。它掩盖了我们为了适应技术而重新改造自己的方式。我们最初用来实现自己的某些特定意图的工具开始向我们强加其意图或制造者的意图。

👉 随着软件程序对人类的影响越来越大,它影响着我们的工作方式、我们所看到的一切信息、我们所走的所有路线、我们与他人的每一次互动 …… 它们成了一种远程控制。

与机器人或无人机不同,人类可以自由地拒绝软件的指令和建议。但是,要摆脱它们的影响是非常难的。当我们启动一个应用程序时,我们要求被引导 —— 我们将自己置于机器的照顾之下。

仔细看一下谷歌地图。当你在一个城市旅行时,你咨询这个应用程序,而它给你提供的不仅仅是导航提示 —— 它给你的是一种思考城市的方式在软件中嵌入的是一个地方哲学,它反映的是谷歌的商业利益、程序员的背景和偏见,以及软件在代表空间方面的优势和局限性等。

2013年,该公司推出了新版本的地图。它并没有向你提供与其他人看到的相同的城市表象,而是,根据该公司收集到的关于你的信息,根据 **谷歌认为** 你的需求和愿望,生成了一张量身定制的地图。

这款应用会突出显示附近的餐馆和你的社交网络中的 “朋友” 所推荐的其他感兴趣的地点。它将给你提供反映你过去的导航选择的方向。

该公司表示,你所看到的视图是 “对你来说是独一无二的,总是能适应你此刻想要执行的任务。”

这听起来很吸引人,但这是有局限性的。谷歌过滤掉了偶然性,而偏向于孤立性。可以说最重要的理解一个城市的方式 —— 作为一个公共空间去理解,不仅是与你的朋友们共享,而且是与大量的陌生人共享的公共空间 —— 却失去了最重要的意义。

科技评论家 Evgeny Morozov 写道,“谷歌的城市主义,就像一个人开着自驾车去逛商场。它具有深刻的功利性,甚至是自私的性格,几乎不关心公共空间的体验方式。在谷歌的世界里,公共空间不过是挡在你的房子和那家好评如潮的餐厅之间的东西而已。”

社交网络推动所有人以符合运营这些网络的公司的利益和偏见的方式来展示自己。

Facebook 通过其 “时间线” 和其他纪实功能,鼓励所有人将自己的公众形象与身份视为不可分割。它希望将他们锁定在一个单一的、统一的 “自我” 中,在他们的一生中持续存在,以一个连贯的叙事方式展开,从童年开始,到死亡结束 —— 人们猜测,这就是他们的死亡。

这符合它的创始人对自我及其可能性的狭隘的概念。“你只有一个身份”,马克扎克伯格曾这样说,”你对你的朋友或同事以及你认识的其他人保持不同形象的日子可能很快就会结束了。”

他甚至认为,”如果你有两个身份,就是缺乏诚信的表现。” 这种观点毫不奇怪,这与 Facebook 希望将其用户打包成整齐划一的数据集供广告商使用的愿望不谋而合

对该公司来说,它还有一个额外的好处,那就是驳斥人们对个人隐私的担忧的理由,令其不那么有效。如果说拥有一个以上的身份表明 “缺乏诚信”,那么渴望将某些想法或活动保持隐秘的欲求,则表明性格上的 “弱点”。

但是,Facebook 通过其软件强加的自我概念只会让人感到窒息。自我很少是固定的。它有一种保护性的品质。它通过个人探索而出现,并随着环境的变化而不断更新。这一点在青年时期尤其如此,一个人的自我概念是不稳定的,要经过测试、实验和修正。如果被锁定在一个单一的身份中,特别是在人生的早期,可能会失去个人成长和成就感的机会

不止 Facebook,每一个软件都包含着这样的隐性假设。搜索引擎,在自动化的知识性调查中,优先考虑的是流行性和最新性,而不是观点的多样性、论证的严谨性或表达的质量。(这就是算法暴政 —— 它根据它的需求定制你。)

就像所有的分析程序一样,他们有一个偏向于统计分析的标准,淡化了那些需要进行品味或其他主观判断的标准。

推荐引擎,无论是推荐一部电影还是推荐一个潜在的恋爱对象,都是为了迎合 *你个人* 的既定欲望,而不是挑战你的新奇和意外。它们假定我们喜欢习惯性的而不是冒险、可预测性的而不是奇思妙想。

家庭自动化的技术,让照明、取暖、烹饪和娱乐等各个方面的事情都可以被精心编程,这些技术将工业化的心态强加于家庭生活。它们巧妙地鼓励人们适应既定的生活规律和日程安排,使家庭更像工作场所。

如果我们不了解编写软件的那些人的商业、政治和道德动机,或者不了解自动化数据处理的固有局限性,那只能意味着我们放弃了自己任由操纵。

正如 Latour 指出的那样,我们冒着用他人的意图代替自己的意图的风险,甚至没有意识到操纵已经发生。我们越是习惯于技术,风险增长就越大。

当我们适应了机械系统的存在,机械系统就会变得无形无影,淡出我们的视线。

即使我们没有能力修理漏水的水龙头,也无法排除马桶的故障,但往往会对家里的水管系统有很好的感觉。大多数的技术都是这样,只有当它们足够无处不在时,才会被视而不见。

它们的工作原理,以及其工作原理的假设和利益,是不言而喻的,或者说至少是可以分辨出来的。这些技术可能会产生意想不到的效果,但它们并没有隐藏的目的。

对于信息技术来说,隐藏意味着完全不透明。软件代码被隐藏在我们的视线之外,在许多情况下,代码作为商业机密受到法律保护 —— 你甚至无权了解这些控制你的东西。

即使能够看到它们,也很少有人能够理解它们。

它们是用我们不懂的语言编写的。输入到算法中的数据也被隐瞒在我们的面前。

我们几乎不知道这些数据是如何被收集走的,它的用途是什么,也不知道谁能访问这些数据。

而现在,软件和数据都存储在所谓的云端,而不是个人硬盘上,我们甚至无法确定系统的工作原理何时发生了变化。

流行的程序在我们不知不觉中一直在进行修改。我们昨天使用的应用程序可能已经不是今天的应用程序了。

现代世界一直很复杂。它被细分为各种专门的技能和知识领域,拒绝所有试图全面理解它的尝试。但是,如今,这种复杂性本身已经对我们隐藏了,其程度已远远超过我们以前所经历的任何程度。

它隐藏在精心设计的屏幕和用户友好的界面之后。技术的假设和意图已经深深渗透到我们自己的欲望和行动中。

你不再知道那些软件是在帮助你还是控制你。你坐在后面,却不知道是谁在开车。⚪️

发表评论

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据