“监视资本主义”并非任何创新,为什么理解这点非常重要?

  • 行为操纵一直是资本主义的重要组成部分

我们被告知,互联网将解放我们。它将使信息获取民主化;它将消除边界;它将使我们从肉体的存在中解放出来。1993年,《连线》杂志承诺,数字革命将带来 “如此深刻的社会变革,其唯一可比性可能是火的发现”;2000年,比尔·克林顿宣称,中国打击互联网的努力 “就像试图把果冻钉在墙上”;2011年,许多人猜测,诺贝尔和平奖将授予推特,因为它催化了阿拉伯之春 ……互联网被认为是一个潜力无限的地方。

阿拉伯之春不是社交媒体革命。如果您错过了《对于许多人来说,阿拉伯之春还没有结束

一直以来,万维网都在增长,并将继续增长。1993年为130页;2000年为1700万页;2011年为7亿页。随着指数级的增长,出现了搜索和发现的问题。我们如何在一个指数级增长的数字干草堆中找到网页?像技术资本主义下的大多数问题一样,它在货币化中找到了解决方案,这次是以商业搜索引擎的形式。

早在1998年,数字信息访问货币化的令人不安的影响就已经很明显了。一些原始的搜索引擎在搜索结果的顶部出售 “首选列表”;另一些则提供广告。无论商业化的道路如何,最终的结果都是扭曲了人们看到的东西,操纵了人们的点击率

《搜索引擎的解剖》是有史以来被引用率最高的计算机科学论文之一,它直面了这一令人不安的趋势:

商业搜索引擎的主要商业模式是广告。广告商业模式的目标并不总是与向用户提供高质量的搜索结果相对应 …… 由广告资助的搜索引擎将在本质上偏向于广告商,而远离消费者的需求….,广告问题已经造成了足够多的混合激励,因此拥有一个透明的、在学术领域具有竞争力的搜索引擎至关重要。

上述1998年这篇论文的作者看起来非常有先见之明。然而,他们也将被证明是非常虚伪的 —— 因为他们的名字叫谢尔盖·布林和拉里·佩奇,是谷歌的创始人,他们的论文是在向学术界介绍他们的搜索引擎。

如果您错过了《谷歌的真面目 — — They’re always watching

就像万维网一样,谷歌不断成长,并将继续成长,从斯坦福大学的一个论文项目演变成了世界上最强大的公司之一。

布林和佩奇放弃了1998年的立场,在投资者的压力下屈服,通过广告使他们的搜索引擎盈利,并通过提供基于搜索查询的目标广告而加倍努力。

每一次谷歌搜索,谷歌的自动拍卖系统都会在广告商之间动态地进行竞价,每次有人点击广告都会产生收入。

这一设计与华尔街的量化金融异曲同工。谷歌的首席经济学家哈尔·瓦里安(Hal Varian)打算把广告变成一种商品,在自己的编码市场上进行交易,并配备高频交易。然而,与其他商品不同的是,这个市场不论过去还是现在都是完全不受监管的,由谷歌代表交易双方。

正如尼古拉斯·卡尔在《洛杉矶书评》中所阐述的那样,这种拍卖系统 “给了谷歌巨大的经济刺激,使其能够准确预测用户对广告和其他在线内容的反应 …… 因此,该公司开始部署其行为数据存储,不是为了用户的利益,而是为了帮助广告商,并增加自己的利润。”

当然,最重要的是帮助政府,因为它持续监视每一个人,对每一个人深度了解,政府最需要的就是这些,见《互联网霸主的时间线 — — 他们将互联网视为间谍、破坏和战争的主场

2004年,谷歌的招股说明书包含了现在著名的座右铭:“我们坚信,从长远来看,我们将得到更好的服务 —— 作为股东和在所有其他方面 —— 一个为世界做好事的公司,即使我们放弃一些短期收益”,布林和佩奇写道。

根据谷歌前高管埃里克·施密特和乔纳森·罗森伯格在其2014年的畅销书《谷歌如何运作》中的说法,这句口头禅是在 “一次会议上,[员工]正在讨论改变广告系统的好处,一个有可能为公司带来巨大利润的改变。一位工程负责人拍着桌子说:“我们不能这么做,这将是邪恶的”。然而,广告系统的存在本身就是对布林和佩奇的所谓原则的放弃,而这一广告系统的拟议变化激发了这句格言。

就像硅谷的所有格言一样,所谓的 “不作恶” 从一开始就是一种空洞的修辞学上的混淆。

在随后的几年里,谷歌及其母公司 Alphabet 的成功不仅体现在推出产品和疯狂收购竞争对手公司上,还体现在作恶上,在收集我们所有人的行为数据和训练预测模型的过程中,犯下了越来越多创造性的罪恶。

如果您错过了《谷歌控制的世界和监视资本主义

为了更好地提供有针对性的广告服务,谷歌扫描了我们每个人在Gmail中的电子邮件通信;为了暗中窃取我们未加密的家庭WiFi路由器数据,它在驶过世界各地住宅街道的街景汽车上增加了功能;为了免费为其机器学习算法收集训练数据,它让您在访问网页时在 reCAPTCHAs 中识别停车标志和交通灯;为了改进机器学习算法本身,它掠夺了大学的教授和学生;为了挖掘每个人的健康,它收购了 Fitbit,并与医院合作,获取我们所有人的医疗记录;为了入侵您的个人空间,它给了您 Google Homes 以及 Spotify 订阅的免费甜甜圈;为了让您继续观看YouTube视频,它创造了一种推荐算法,使所有人都变得偏执和受到伤害;为了占领都市空间,它收购了 Sidewalk 实验室,并承诺所谓的 “智能城市”。

如果您错过了《监视之城:谷歌打造的地狱世界》,我们有 “关于谷歌和亚马逊” 的专栏,您可以看到更多

今天,谷歌和 Alphabet 无处不在,他们的数据收集也是如此。谷歌搜索(您的搜索查询),YouTube 和 Chromecast(您的视频偏好),安卓(您的移动行为和应用使用),DeepMind 和谷歌健康(您的健康数据),谷歌地图(您的地理位置数据),谷歌浏览器(您的浏览历史),谷歌家庭和 Google Nest(您的家庭生活和语音命令),Google Drive(您的文件),谷歌文档(您的合作),Gmail(您的电子邮件),谷歌图书(人类的集体文化遗产),谷歌照片(您的个人照片),谷歌新闻(您的政治倾向),谷歌Hangouts,谷歌 Meet 和谷歌 Duo(您的社交关系),谷歌Colab(您的代码),谷歌分析(您的网站指标),YouTube 音乐(您的音乐偏好),谷歌日历(您的计划),Google Workspace(您的职业生活),谷歌教室(您的教育)……

如果过您错过了《Google 产品的替代品 — 完整列表 》请注意,这只是关于在线应用的替代品,而现实中的诸如 “智能城市” 的东西,除了抗议别无他法

虽然我经常为自己无法脱离谷歌生态系统而感到内疚,但现实是,作为社会的一员,我根本无法逃避它。不可否认,谷歌的产品和服务有其实用性,但是,把这种实用性称为 “便利”,就是直接否定了我们每个人的自主权和同意。因此,在隐私和便利之间的古老的权衡完全崩溃了。

如果您错过了《便利的暴政

什么是监视资本主义?Shoshana Zuboff 将其定义为要求将 “人类经验作为免费的原材料转化为行为数据”;通过机器学习算法,这种 “行为盈余” 被转化为 “预测产品”,在 “行为期货市场” 上进行交易。

换句话说,我们每个人的行为数据被用来训练预测模型,这些模型可以猜测关于您的任何事,然后可以通过许多不同的形式实现货币化,从操纵您的点击或购买、到将您的数据和预测出售给他人,操纵您的认知和投票

数据越好、越丰富,下游的机器学习预测就越准确,利润也越大。

在这里看到具体介绍单向镜的背后:监视资本家和政府的联手一直在如何折腾你?》;在这里下载阅读这本书,有中文版监视资本主义时代

Zuboff 恰当地描述了谷歌的货币化监控战术是如何成熟为一种利润结构的,当下所有科技和数字技术公司都是如此,全世界数字相关的公司只有监视资本主义这一种体制。这个名单包括 Facebook、亚马逊、微软、Snapchat、Netflix、Spotify、LinkedIn、IBM、Palantir、Verizon、共享汽车公司、汽车公司、电子商务网站、健康公司、约会应用程序、色情网站、银行、保险公司和咨询公司等等一切。这些公司在机器学习研究方面的投资规模是非常难以理解的,为监视资本主义提供动力的许多研究实验室就是证明。Google Brain、DeepMind、Facebook人工智能研究、微软研究、IBM Watson、Uber人工智能实验室、沃尔玛实验室和Salesforce研究,仅举几例。然而,在日常生活中,数据收集的规模甚至让您更难理解。

监视资本主义就在您的身上 —— 苹果手表和谷歌眼镜;对您的家的渗透是亚马逊Echo和智能冰箱。随着更好的数据收集、监测和跟踪,人们有望更 “了解自己“:睡眠习惯、性生活、时间管理等等。就像资本主义承诺统治大自然的一切那样,监控资本主义承诺通过所有人的行为来统治人性。

监视的整体性已经成为一个被提倡的景象:监视资本家通过数据化和计算宣扬 “个人解放”。人们被告知,只要有足够的数据和足够的计算能力,我们就能释放出真正的自我。这是硅谷对苏格拉底的颠覆:未经优化的生活是不值得过的。

这种对优化的迷恋充斥着科技文化,考虑一下对机器学习(本身就是一种统计优化的形式)和时间管理(即对日历和敏捷工作流程的关注)的痴迷,以及现代技术官僚的哲学品牌(功利主义、所谓的 “理性主义思想”、未来主义和 “量化自我” 运动)、以及慈善事业(作为交易的利他主义)。

但在表面之下,这种对优化的崇拜不过是作为宗教的资本主义,其特点是对通过数据化实现利润最大化的全盘信念。通过这个镜头,在产品发布和季度收益报告中传播 “个人优化福音” 背后的意图就变得很清晰了。尽管技术官僚会让人们相信这是他们的世界观,但它实际上是一种经济理论。其提炼出的计算方法就像供应和需求一样简单易懂:关于我们的更多数据等于他们的更多钱。

在这种榨取性经济理论下实施的监视资本主义行为非常恶劣,但却非常普遍,以至于人们已经变得完全麻木了。例如,臭名昭著的剑桥分析公司(Cambridge Analytica)丑闻影响了全世界的选举;Facebook 的社会情绪传染实验中,操纵了689,003名用户的新闻提要,以研究用户的情绪是如何被操纵的;Pokémon Go 的游戏化行为操控,将玩家引导到星巴克特许经营店等赞助地点;健康保险公司吸走我们衣服尺寸的数据;扫地机器人为您的家绘制图纸,然后卖给其他公司;一些公司出售少数派报告的预测算法和面部识别技术给警察;目标广告如此细化,以至于流产的孕妇被婴儿服装广告所困扰;以及 Facebook 在印度推出的 “免费” 移动互联网,由于掠夺性的数据采集,最好将其定性为新殖民主义(“几十年来,反殖民主义对印度人民造成了经济灾难。为什么现在停止它?” ,Facebook 董事会成员马克·安德森2016年的推特上说)。

如果您错过了《数字殖民主义:帝国的演变

监视资本主义资助的学术研究论文,如 “通过人体反射的射频信号定位” 和 “过滤电波隔墙捕捉人形”,描绘了一个更可怕的未来,它将捕捉所有人的所有动作。与此同时,我们的个人生活一直被监控着,并被汇总到名单和电子表格中,由数据经纪人出售:每份1000名强奸受害者或遗传病患者的目录为79美元。

当业余的诈骗者一直试图用弹出式广告来吸引您,庆祝您成为第100万个访问者时,真正的诈骗者却一直隐藏在众目睽睽之下,通过每一次点击、击键和语音命令来挖掘您的一举一动,承诺提供可爱的猫狗视频、更好的导航和更健康的生活方式,通过全面监控将所有人变成商品。监控资本家是披着技术外衣的狼。

埃里克·施密特和乔纳森·罗森伯格在《谷歌如何运作》中告诉人们:“几千年前构思和建造金字塔的埃及人其实只是一个成功的管理者。互联网世纪充满了尚未建成的金字塔,…. 而这一次,没有使用奴隶制的劳动力”。而去年,Alphabet 公司1610亿美元的收入中,约有83%来自广告。已经非常清楚的是,互联网世纪的金字塔已经建成了。它们的资金来源是血汗钱,通过剥削和强行收割监视资本主义承诺解放的东西而产生,即:我们每个人。

确切地说,谁是监控资本家?也许,当历史书被写下时,人们记住的监控资本主义的面孔将是硅谷的寡头 — — 与今天占据人们大量注意力的面孔一样。但是,在他们身后隐藏的将是大规模的系统性共谋和平庸的个人动机,它们助长了这一切。

每一个谢尔盖·布林和拉里·佩奇背后,都有至少一千名谷歌员工,他们在谷歌上市后的几年内都积累了500万美元以上的净资产。每一个马克·扎克伯格、杰夫·贝索斯和彼得·蒂尔背后,都有无数的工程师、数据科学家、机器学习研究员、产品经理、IT专家、运营研究员、广告主管、公司律师、内部经济学家、用户体验设计师、技术顾问和大学教授,他们被任命为监视资本主义的研究人员,从监视资本主义对我们所有人的货币化中获利。

一些人对自己的同谋行为视而不见。其他人则躲在他们不一致的功利主义背后(毕竟 Facebook 的 News Feed 创建者 Andrew Bosworth 就如此说过,“我们对连接人们的信念如此之深,以至于任何能让我们更经常地连接更多的人的东西都是*事实上的好东西。”)。一些人对技术官僚资本主义的弊端口诛笔伐;另一些人则通过科技巨头的所谓 “人工智能伦理团体” 将企业的违法行为合法化和合理化。而共同点是,他们都兑现了自己的薪水。正如厄普顿·辛克莱所言:“当一个人的工资取决于他不了解某件事时,你就很难让他了解那件事”。

微软员工抗议800万美元的ICE合同的决定是值得赞扬的;谷歌员工反对该公司与五角大楼签订的100亿美元的人工智能服务合同的成功运动同样如此。这些成功的示威活动揭示了成千上万的人在说 “不” 的能力方面所拥有的集体力量。

但这些监视资本家同样要对他们所做的其他事负责:对我们所有人身体的开采;对内容审核、产品运输和数据标注的劳动者的剥削;技术精英们对财富的空前禁锢;大学工程学院被收编为招聘中心;货币化的人工智能军备竞赛正在消除学术研究而有利于大型科技人工智能实验室;互联网被转换成一个大型A/B测试。迫使人们选择加入数据收集的黑暗设计模式;将人们委婉地简化为 “用户”,让人们沉迷于点赞和分享的多巴胺刺激;科技资金的涌入污染了地方选举,例如在加利福尼亚和西雅图;监视资本主义和监视国家之间的密切关系;带有禁止诋毁条款的保密协议的激增,使异议沉默。 这些不为人知的恶行选择必需让更多人知道。

祖博夫在《监视资本主义时代》中的一个核心论点是,今天的监视资本主义在努力避免与过去的资本主义进行细致的比较。在祖博夫看来,与福特主义和20世纪初的工业资本主义的共鸣只到此为止,限制了我们批判一个全新现象的能力。祖博夫称这是 “无马之车综合症,我们把新的危险感附在旧的、熟悉的事实上,而不知道它们导致得出的结论必然是不正确的。” 这是整个科技批评中普遍存在的一种观点,即:如果技术是新的,那么威胁也一定是新的。并非如此。

将监视资本家视为自由市场的颠覆者,是给了他们太多的信任,否认他们从政府、新自由主义和纯粹的环境中获得了多少好处。为监视资本主义提供动力的大部分硬件、软件、基础设施和算法 — — 包括作为监视资本主义底层的互联网 — — 都是由军工企业和纳税人的钱资助的。

在这里看到具体介绍《互联网究竟是什么

此外,监视资本主义从911事件中获得的纵向利润仅次于国防工业:袭击事件是监控增长和隐私贬值的决定性拐点,导致联邦贸易委员会放弃了潜在的数据保护立法。如果不是奥巴马政府对谷歌的迷恋,很难想象谷歌会拥有如此大的权力(2009年至2016年,政府与谷歌员工会面427次)。

在这里看到更详细内容:《解密文件:科技产业巨头为什么能成为巨头?私有化间谍活动如何发动了认知战争?

监视资本主义的巨头们所获得的税收优惠也同样重要谷歌公司的成功得益于丰富的政策干预谱系,而这些干预与他们自称的聪明才智毫无关系

如果您错过了《赢家通吃的系统:在全球赚钱机器中

然而,相信监视资本主义从一开始就是一种谬论,正如祖博夫和其他人所建议的那样。正如布雷特·克里斯托弗斯在《雅各宾报》上指出的,“行为操纵一直是资本主义的组成部分,特别是广告。” 为广告目的将行为数据化只是一个时间问题。

早在20世纪60年代,Simulmatics 公司就向广告公司推销数据化的行为科学方法,并对 “大众文化模式” 抱有幻想,用 Jill Lepore 的话说就是,它将被用来 “从所有媒体的公司 —— 出版社、唱片公司、杂志出版商、电视网络和电影制片人 —— 收集消费者数据,以便设计一个模型,通过元媒体和数据公司的方式来指导广告和销售。到1991年,Equifax 已经将包括1.2亿美国人的购买习惯在内的细化个人信息编入数字营销数据库,并以CD-ROM的形式出售。到1998年 —— 也就是谢尔盖·布林和拉里·佩奇发表论文的那一年 —— 描述监视资本主义的词汇已经在技术专家中流行起来。大卫·申克(David Shenk)推广了数据烟雾(“信息的有毒淤泥和沉淀物”)这一术语,就是祖博夫所称的 “数据废气” 的前身,而数据监控(“大量收集消费者数据并将其提炼为一种超级复杂的营销分析品牌”)这一术语已经有十年历史了。

简单说,这是延续了几十年的常识:监视资本主义是工业资本主义的自然延续。

事实上,工业资本主义的弊端可以告诉我们很多关于监视资本主义的情况。例如,与气候危机之间的关系。不仅要考虑到广泛的企业违法行为,还要考虑到持续不断的对公众的欺骗和操纵:关于回收利用的功效的谎言和对科学证据的全盘否定,与 Facebook 高管们在拒绝让自己的孩子使用这个平台的情况下对 “连接我们所有人” 的承诺(前高管 Chamath Palihapitiya 说他的孩子 “不可以使用这个狗屎”)没有什么不同。进一步考虑以牺牲他人利益为代价的系统性共谋,以及未能将广泛的挫折感转化为有意义的企业问责制的执行。这些纵向的相似性揭示了我们真正面对的是什么。

技术曾经是为富人服务的。现在富人正在付钱以避免技术《穷人的屏幕

因此,批评者中最严重的谬误是过分强调 “监视资本主义” 中的 “监视”。将监视资本家视为前所未有的威胁,就会被他们无休止的宣称所提供的东西是 “新的和解放性的” 所迷惑。

二十年来围绕建设资本主义的辩论已经被一种失忆的循环所污染,即 每一次技术发展都会重新发明批评。新颖性的问题占了上风。数据是新石油吗?我们是消费者、产品和/或原始供应吗?监视资本主义剥削的不仅仅是我们的劳动吗?…… 但现实是,这样的理论争论最终掩盖了资本主义的腐蚀作用。真正重要的是全盘剥削本身。

简单说就是:这种剥削已经有了非常充分的证据。但是,在这种剥削中,技术新颖性的诱惑往往占据了首要位置。就像父母对待新生儿那样,媒体用监视资本主义的 “第一” 来淹没我们:第一个受算法操纵的总统竞选,第一个被自动驾驶汽车杀死的人,第一次在法庭上部署的机器学习模型,或者第一个被算法错误指控的案件 …… Zuboff 等人引用这些 “第一” 作为证据,说明在监视资本主义下,渎职行为会产生独特的不正当的下游效应。

公平、问责和透明领域的计算机科学家援引这些例子,说明为什么必须对算法和训练数据集进行去偏见化;政策专家用它们来论证为什么机器学习在司法系统中没有地位;隐私倡导者在告诉您应该限制您使用的设备数量时,也会指向它们 …… 但是,所有这些技术上的观点都掩盖了问题的核心:“监视资本主义” 中的 “资本主义” 本质。

正如气候危机无法通过对现状的细微改进来解决,监视资本主义也不可能通过表面上的、技术上的修正来解决。Uber的杀手级自动驾驶汽车并不能通过推迟部署来解决(“在不可避免的碰撞中,人工智能会选择救谁?”这是老生常谈的人工智能伦理学思想实验);相反,它必需通过从剥削性的共享汽车公司撤资和投资公共交通来解决。通过采用欧盟的GDPR立法,保证人们有权获得对算法决定的解释,并不能缓解算法信用决定中的偏见。而通过重税和财富再分配来减轻信用评分本身的负担,就可以改善这种情况。警察用机器学习算法错误地指控人们的不公平现象,不可能通过审计或删除算法来解决;健康保险公司的掠夺性数据吸纳,也并不能通过立法保护数据来改善,而是通过提供全民医疗来解决。谷歌最有毒的滥用行为不是通过反托拉斯诉讼就能解决的,只有通过重新评估驱动谷歌的盈利动机,才能缓解这些问题。

监视资本主义的系统性不公正是对反抗行动的呼唤。

如果您错过了《数字殖民主义:帝国的演变

也许监视资本家设置的最大陷阱是让人们相信,这一切都是 “不可避免的”,互联网必须变成这样。他们不遗余力地推销一种让人联想到冷战时期言论的二元叙事:你必须服从硅谷的方式或专制的公路,在任何一种情况下,监控都是 “必要的未来”。

2009年,时任谷歌首席执行官的埃里克·施密特宣称:“你愿意让政府管理创新公司,还是愿意让私营部门管理它们?有一些模式,也有一些国家,事实上政府确实在尝试这样做,而我认为美国的模式效果更好”。围绕谷歌退出中国的公关活动的持久遗产,就是对这种严重还原性的叙事的重申。事实证明,这种叙事操纵非常成功,它为人们留下了很少的空间来推测现在的情况和可能的情况之间的差距。在许多对监视资本主义的批评中,都提到了作为陪衬的威权监控。与 “老大哥” 的比较是无处不在的。祖博夫甚至在《监视资本主义时代》中用多页的篇幅将 “Big Brother” 的极权主义和 “Big Other” 的工具主义(祖博夫对监视资本家所掌握的权力的称呼)按照 “极权主义愿景”、“权力手段” 和 “意识形态风格” 等轴线进行比较。一些人正确地指出了这些精心设计的比较是如何成为不可避免的话语的牺牲品,并排挤了我们重新想象技术的能力

我想说的是,所谓的 “不可避免” 的语话模式甚至更具局限性:它直接否定了一个更光明的社会的观点就像我们不能在没有详细审视资本主义的情况下谈论监视资本主义的弊端一样,我们不能在没有重新想象社会本身的轮廓和实现这些变化的情况下重新想象互联网可能是什么。

请记得,监视资本家不是什么独角兽、不是什么有远见的人或登月思想者,他们也并没有进行什么颠覆性的创新。相反,他们构成了空前的威胁。我们必须首先记住他们是多么缺乏想象力和灵感,并将继续如此。他们的非原创性剥削围墙花园式的利润最大化,以及衍生的、有几百年历史的、对解放的技术未来的空洞承诺,掩盖了他们的真实意图,他们已经回收和挪用了不受约束的资本主义的老套路。

真正的创造力和独创性在于我们有集体能力重新审视不公正的制度本身,实现一个更公平的社会。这是我们缩小技术现状和可能的未来之间差距的唯一途径。这是一条灵感之路。⚪️

Putting the ‘Capitalism’ in ‘Surveillance Capitalism

发表评论

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据