集体监听

  • 有一大群人类而不是机器,在神秘的地方监听你洗澡的声音;您认为的”机器学习”很可能不是那么自动化的 ……这次又曝光了什么?

亚马逊雇佣了数千人来窃听世界各地的人们对他们的 Alexa 数字助理所说的内容,根据彭博社发布的一份国会听证会报告,该报告引用了七位参与该计划的人的证词。

虽然他们的工作是“帮助改进 ”NSAlexa — — 它为公司的 Echo 扬声器系列提供动力 — — 但该团队“收听 Echo 所有者家中和办公室里录制的所有录音”,然后将其转录,注释并反馈到软件中。为了更成功的互动,试图改善 Alexa 对人类语言的理解。换句话说,是人类而不是机器正在有效地帮助训练亚马逊的算法。

在营销材料中亚马逊表示,Alexa“生活在云端,并且总是越来越聪明。”但是,就像许多为了从经验中学习而构建的软件工具一样,人类正在做一些教学。 — — 彭博社

监听团队由遍布全球的兼职承包商和全职亚马逊员工组成; 包括印度、罗马尼亚、波士顿和哥斯达黎加。

根据亚马逊布加勒斯特办事处的两名员工说(位于罗马尼亚首都 Globalworth 大楼的前三层),监听者每班工作9个小时,每班回顾多达1,000个音频剪辑。位于 Pipera 区的摇摇欲坠的基础设施中,这个位置“非常突出”、并且“没有任何外部标志能显示亚马逊的存在。”

虽然大部分工作都很无聊(一名工作人员表示他的工作是挖掘特定短语的语音数据,例如“泰勒斯威夫特” — 让系统知道用户正在寻找艺术家),这些监听者也在听取人们最私密的时刻。

有时监听者能听到非常私密的声音:一个女人在洗澡时严重走调的唱歌声,或者说一个孩子在尖叫的声音。团队在需要帮助解析混乱的单词或者遇到有趣的录音时使用内部聊天室来共享文件 。 –Bloomberg

亚马逊的监听者偶尔会遇到令人不安的或者说可能是犯罪记录的情况 — — 例如两名工作人员说他们听到了性侵犯的声音。

据报道,当这样的事发生时,工人们会在内部聊天室提到它,以“缓解压力”。

虽然亚马逊表示,当工人听到令人痛苦的事情时,它有程序要遵循,但两名罗马尼亚员工表示,当他们请求指导此类案件时,他们被告知“干扰亚马逊的工作”。

“我们认真对待客户个人信息的安全性和隐私性,”亚马逊发言人在向彭博社提供的一份声明中表示。

“我们只注释极小部分的 Alexa 录音样本,以改善客户体验。例如,这些信息有助于我们培训语音识别和自然语言理解系统,以便让 Alexa 可以更好地理解您的要求,并确保服务对所有人来说运作良好,“该声明称。“我们有严格的技术和操作保障措施,并对滥用我们的系统的行为采取零容忍政策。员工无法直接访问可识别此人或帐户的信息,作为此工作流程的一部分。所有信息都以高度机密性处理,我们使用多因素身份验证来限制访问、服务加密和审核我们的控制环境以保护它。“

也就是说,亚马逊完全没有提到人类正在监听 Alexa 收集的一些谈话录音这一事实。相反,他们在常见问题解答中有一个通用的免责声明,即 “我们使用您对 Alexa 的请求来训练我们的语音识别和自然语言理解系统。”

根据亚马逊的 Alexa 使用条款,该公司收集并存储了您对 Alexa 说的大部分内容 — — 包括产品的地理位置以及语音指令,CNBC 的 Todd Haselton 去年11月报道

您的消息,通信请求(例如,“Alexa,致电妈妈”)和相关说明都属于“Alexa 交互”,如 Alexa 使用条款中所述,亚马逊处理并保留您的所有 Alexa 交互和相关信息,以响应您的请求(例如,“向妈妈发送消息”),提供其他功能(例如,语音到文本转录,反之亦然

去年五月,亚马逊 Echo 记录了一位丈夫和妻子之间的私密对话,然后将录音发送给丈夫的一个电话联系人。亚马逊声称,在谈话过程中,有人使用了一个听起来像“Alexa”的单词,导致该设备开始录制。

“如果是这样此时 Alexa 应该大声说出“向谁发?”后面的会话被解释为客户联系人列表中的名称。然后 Alexa 大声问,’[联系人姓名],对吗?Alexa 然后将背景对话解释为“正确”。尽管这一系列事件都不太可能,我们正在评估这种情况。“ 亚马逊说。

然而,当事人妻子 Danielle 说,Echo 从未询问她是否允许发送音频。

虽然 Bloomberg 审查的屏幕截图显示,提供给 Alexa 监听者的录音不提供用户的全名或地址。但是,它会将录音链接到帐号、用户的名字和设备的序列号。

“你不会希望另一个陌生人在听你家里监听你的亲密关系,我认为我们已经习惯于[假设]这些机器正在进行神奇的机器学习。但事实上它们依然是涉及手动处理的。” UMich 教授 Florian Schaub 说,他研究了与智能扬声器相关的隐私问题。

“这是否与隐私有关,取决于亚马逊和其他公司对他们手动注释的信息类型的谨慎程度,以及他们如何向某人提供这些信息,”Schaub 补充说。简单说,如果您依旧不想把您的 Alexa 扔出去,那就只剩下祈祷一条路了:祈祷贝索斯是上帝。

Amazon employs thousands of people to listen in on what people around the world are saying to their Alexa digital assistant, according to what is sure to be a Congressional hearing-inspiring report by Bloomberg

发表评论

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据