许多顶尖的AI研究人员从科技寡头公司获得资金支持

  • 您基本可以肯定其他40%的资金来自政府和军方。但是,众所周知,这种技术仅以一种方式发展 —— 捍卫强权的利益,因此,由谁来筹集资金并不重要 …… 

【按】其实这种现象极为普遍,且由来已久。它是巨头公司柔性维稳的一种手段 —— 将反抗者的口号拿来为自己所用。比如,你们要隐私吗?我来定义什么是隐私;你们要技术道德吗?我来定义道德的标准 ……

当依靠出卖您的私密数据以维持高额利润的寡头公司主持 “隐私大会” 时,您将如何期待隐私这个词依旧代表基本人权?

众所周知资金是危险的东西,它将令接受者被支付者摆布。但正如上面的副标题所解释的,研究肯定需要资金,而当前的问题是,只有政府、军方和寡头公司把持着绝大多数资金;这是挡在技术民主化面前的最大困境

作为一名从事人工智能研究的研究生,Mohamed Abdalla 原本很可能会走进一些高薪的行业工作。但是没有,相反,他希望引起人们对大科技公司的大笔资金正在如何扭曲他的研究领域的关注。

正在多伦多大学完成博士学位的 Abdalla 与人合作撰写了一篇论文,强调了接受科技公司资助的顶尖人工智能研究人员的数量 —— 包括那些研究该技术提出的伦理挑战的人。

他说,当企业的人工智能系统提出伦理问题时,技术研发的资金来源就可能是一个特别的问题了,例如 算法偏见、军事用途、或关于人脸识别程序的公平性和准确性的问题。

Abdalla 发现,在四所著名的大学中,超过一半的终身制人工智能学术人员披露了他们的资金来源 —— 他们都得到了寡头科技的某种支持。

Abdalla 说,他不相信这些学术人员有任何不道德的行为,但是,他认为他们的资金可能会使他们的工作出现偏误 —— 甚至是无意识的。他建议大学出台规则,提高对潜在利益冲突的认识。

当然,产业界资助学术研究并不是什么新鲜事。资本、想法、和人员在公司和大学之间的流动曾经被认为是充满活力的创新生态系统的一部分。但是,大型科技公司现在掌握着前所未有的权力,而前沿的人工智能算法对其业务的重要性,使他们不得不向学术界挖掘人才

拥有人工智能专业知识的学生可以在科技公司获得高额的薪水,但公司也会用拨款和奖学金支持重要的研究和年轻的研究人员。许多顶尖的人工智能教授都被科技公司吸引走,或者在这些公司兼职。除了钱,大公司还能提供大多数大学都会仰慕的计算资源和数据集。

来自罗切斯特大学和中国长江商学院的研究人员在7月发表的一篇论文发现,在2004年至2018年期间,谷歌、DeepMind、亚马逊、和微软聘请了52名终身教授。该报告认为,这种 “人才流失” 与创办人工智能公司的学生的数量下降相吻合。

寡头公司的影响力和权力不断增长,促使 Abdalla 质疑它如何以更微妙的方式影响他的专业领域。

Abdalla 和他的哥哥(也是研究生)一起研究了斯坦福大学、麻省理工学院、加州大学伯克利分校、和多伦多大学的人工智能研究人员在职业生涯中获得寡头科技公司资助的情况。

他们检查了这四所学校中135名从事人工智能研究的计算机科学研究人员的简历,寻找研究者从一家或多家科技公司获得资金的迹象。对于其中的52人,他们无法做出判断。在其余83名教员中,他们发现有48人,也就是58%的教员从14家寡头科技公司中的一家获得了资助或奖学金等资金

这14家寡头科技公司包括:Alphabet、亚马逊、Facebook、微软、苹果、英伟达、英特尔、IBM、华为、三星、Uber、阿里巴巴、Element AI 或 OpenAI。

在一个较小的从事人工智能伦理研究工作的教授群体中,他们还发现,其中58%的人曾得到寡头科技公司的资助。如果包括任何资金来源,如 双聘、实习和休假,那么33人中有32人 —— 即97%的人 —— 与寡头科技公司有经济联系。“很少有人不与大科技公司有某种联系”, Abdalla 说。

Abdalla 说,行业资助不一定是妥协,但是他担心钱会产生一些影响,会阻止研究人员进行某些项目,或者促使他们同意这些寡头科技公司提出的解决方案。

尤其是,Abdalla 的论文将寡头公司对人工智能研究的资助与20世纪50年代烟草公司为研究吸烟对健康的影响的研究人员付费的历史进行了对照。

他说:“我认为绝大多数研究人员都没有觉察到这点。他们没有积极寻求推动哪个议程。”

AI领域的其他人也担心行业资金的影响。在今年最大的人工智能研究人员聚会上,一个名为 “Resistance In AI” 的新研讨会将探讨人工智能如何 “将权力集中在政府和寡头公司手中,远离边缘化社区”。

但是,寡头公司与行业的联系是普遍存在的,并且经常在研究人工智能的道德使用的团体中发现这种联系。例如,“公平性、问责制和透明度” 会议(一个研究人工智能社会影响的著名活动)的三位联合主席中,有两位在 Alphabet 子公司工作

非营利性人权数据分析小组的统计学家 Kristian Lum 是该会议的执行委员会成员,她说,该会议和其他活动一样,接受企业赞助。但她说,该会议的政策规定,赞助商对会议内容和演讲者没有控制权。Lum 说,参与会议的人都会小心翼翼地披露潜在的利益冲突。

Lum 说:“大型科技公司确实拥有强大的权力”。Lum 的雇主由基金会资助,“我确实认为这是人们越来越能意识到的事。”

其他人则说这个问题更加复杂。

Meredith Whittaker 是纽约大学的研究科学家,此前曾为谷歌工作,负责一个将公司与学术研究联系起来的项目。她还在2018年领导了公司内部针对其性行为不端和监控政策的抗议活动。

“人们知道谁付钱给他们”,她说。但她又说,假设一个由公司资助的人不能对寡头科技公司持批评态度是不公平的。有几位在科技公司工作的研究人员对他们雇主的技术持批评态度。她还说,公司内部的反击可以帮助制衡寡头的权力。“随着这项技术的地位越来越明显,工人组织和工人的异议只会越来越多。”

加州大学伯克利分校教授 Ben Recht 此前曾批评过研究人员同时为大学和大型公司工作的想法。但他认为,企业对人工智能的资助不应该被视为本质上的坏事。“你可以从资本主义的角度出发,认为公司追求道德技术是好事”,他说。

Recht 还认为,即使没有行业的资助,学术界也可能产生道德上有问题的工作,比如支撑人脸识别的算法,或者那些帮助将社交媒体平台变成回音室和错误信息来源的算法。Recht 同时指出,包括军方在内的政府机构的资金流向都会影响研究方向。

Abdalla 则担心,引起人们对寡头科技公司和学术界之间关系的关注对他的工作前景至关重要,因为教授们通常会帮助筹集资金。“我被告知别较真这个”,他说。⚪️

Many Top AI Researchers Get Financial Backing From Big Tech

发表评论

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据