深入你的大脑,窥探你是否忠诚

  • 中国读者对于政审可能再熟悉不过了。政审的目的是”确保你的忠诚”,但是它所参照的标准非常无用。现在有了一个新生的黑科技,可以通过实时地监视一个人的一举一动来判断此人是否忠诚、以及在其”变心”之前及时预测到。这是谁研究出来的玩意?

你足够忠诚吗?你的雇主和专制政权对这个问题有着持续浓厚的兴趣。现在,有一种方法可以帮他们找到满意的答案 — — 是帮他们,不是帮你。

一项新的启用AI的试点项目旨在感知具有绝密许可的人的行为中的“微观变化”,以预防你的忠诚度有变。如果它有效,它很可能就是企业和政府部门人力资源的未来。

美国军队在人力资源方面的工作主题就是:评估成千上万的员工的忠诚度,或者说保密的能力。他们最担心的是其中暴出一两个透明度革命家。

这项任务的核心是所有劳资关系的核心问题:您如何知道何时延长信任何时终止信任?

国防安全局(DSS)办公室认为,人工智能和机器学习可以提供帮助。其新的试点项目旨在对持有或正在寻求安全许可的人进行筛选,其过程应用大量数据。

其目标不仅仅是*发现*那些背叛了他们信任的员工,而且,要*预测*哪些员工有可能会背叛 — — 也许是通过冷静的对话而不是惩罚来解决问题(可谁知道呢)。

如果试点证明成功,它可以为企业人力资源的未来提供一个模型。但这一概念还为雇主提供了前所未有的监视窗口,让他们了解工人的数字化生活,在大数据和人工智能时代就雇主、员工和信息之间的关系提出新的问题。

该试点据称是基于迫切需要。去年6月,国防部接管了安全检查积压工作的任务 — — 超过60万人等待审核。根据国家背景调查局9月份的一份报告,有些人 — — 以及想雇用他们的组织 — — 等待了一年多。这些延迟源于一个过时的系统,涉及将问卷邮寄到以前的工作场所,等待(和希望)回复,并将退回的纸质文件扫描到大型数据库中。在云计算出现之前就已存在的那种大型数据库。

除了过时之外,这个过程在过去只能作为表面化程度上描述一个人。用官员们的话说就是,作为未来行为的一个指标,它非常缺乏可靠性。

于是DSS全国背景调查服务部研发了这种技术,由 Mark Nehmer 领导了,以创造一种衡量潜在员工“不忠之风险”的新方法。

今年春天,DSS 推出了他们所谓的“基于风险的用户活动试点”。它涉及全面地收集个人的数字足迹或“网络活动”,基本上是目标人在网上做的一切,然后将其与其他数据进行匹配。分析结果让国防部对此人有所了解。

由于“在线”信息基本已经涵盖了一个人所有的生活,他们希望,其数据分析效果将能够成为一个人之生活的完整快照。

“我们预计秋季会有早期结果,”DSS 官员周二在一封电子邮件中表示。

早前国防部已经进行了一些针对数字用户活动的监测。但是该项计划寻求的信息比目前的标准要多得多。

“在国防部,用户活动监控通常围绕端点构建。想想你的笔记本电脑吧。它只是监控笔记本电脑上的活动。Nehmer 在11月份的公司简报中表示,它不会查看可用的任何其他网络数据“ — — 可能是一个人的20%可用数字信息,C3是一家位于加利福尼亚的技术公司,作为该试点的合作伙伴。

该项技术的尝试寻求更全面的数字信息,然后将其与国防部内外的其他数据相结合,利用机器学习算法获得洞察力。“一旦完全构建,它将会查看您生成的绝大部分网络数据,”Nehmer 说。(数据完全来自国防部拥有的设备,而非个人系统)

该项目还将引入一个人在其标准表格上填写的材料 — 基本上表示由寻求安全许可的人填写,以及其他与网络活动无关的数据。“我们不只是要查看你在个人计算机上做了什么,还有其他在网络世界中没有表现出来的人类行为数据”,他说,意味着那些数据不是机器学习程序容易消化的格式。

这些数据将加入所谓的持续评估系统,这是指监控与待审核者有关的生活事件,例如结婚或离婚、大量债务或获得突然的意外收获、纳税申报、逮捕、突然的外国旅行等等。目前有超过一百万军事人员参加现有的连续评估系统。

Nehmer 说,最终的目标是不仅可以感知到即将发生的内幕犯罪,而且可以感受到更为隐秘的存在状态; 如果你愿意的话还可以在犯罪前预测到。

“我们可以据此评估个人所产生的活动是否在增加、减少或保持在相当规范的范围内。如果这一变动保持在规范的范围内,可能就没有问题。如果他们的活动急剧增加,可能会有压力。但是有很多方法可以衡量活动。如果它显著下降,可能会有一些外部控制因素。“

换句话说,所收集的数据不仅是窥探一个人过去的窗口,也能体现他们目前当下的心态,或者 Nehmer 所说的行为中的“微观变化”。

“我们将这些数据构建成一个模式,以便我们可以检测整个生活模式中行为的微小变化,从而我们可以发现目标人的压力在哪,”他说。“从根本上说,我们在那里寻找行为的微观变化,这可能表明一个人对继续与国防部的关系的兴趣是否有变化,或者与生活的联系是否有变化,”他说,具体提到退伍军人自杀的流行性问题。“如果我们的工作正确,我们可以帮助防止自杀、或其他人们在压力下选择的不明智行为,”他说。

当然,很多人可能感觉害怕,关于他们的雇主正在密切监视他们的行为以发现所谓的“微观变化”,特别是,如果他们可能因这些“变化”而被分析出来的结果遭受惩罚的话

这适用于那些为保密或绝密许可带来的巨大特权和权力而交换自己的隐私的人。这是一种权衡,但并不容易。

Nehmer 非常清楚这一点。他坚持认为,目标不是紧密监视;它是为了在雇员开始讨厌他们工作的地方或他们正在做的事之前,在惩罚变得必要之前揭示情绪、前景或行为的变化。

正如 Nehmer 所描述的那样,最好的结果是在犯罪之前,当任何工作场所问题处于萌芽状态时; 或“检测生命模式的变化,这些变化可能表明个人正在进入需要某些干预的位置。如果我们正确地开展工作,这种干预最有可能只是与他们交谈,进行对话,“他说,“我们不想失去我们宝贵的员工。并希望帮助有价值的员工成为宝贵的员工”。

实现这一目标将需要大量数据; 国防部内的数据收集并不是一个简单的过程。“至少在几年前,国防部共有15,000个主要系统,每个系统配置不同,每个系统都会输出不同类型的数据。然后你就拥有了与人员相关的所有这些不同的东西,并且每个系统都以不同的方式描述了一个事件,“Nehmer 说。

它还需要通过与其他政府和商业实体的数据共享合作伙伴关系,即使数据不在国防部内也能找到。Nehmer 不想确切地说出究竟都有哪些实体,但它指的是该部门合法访问的所有数据,作为其筛选员工忠诚度和反情报活动的一部分。

尽管如此,让这些实体为新的员工监控应用程序共享数据还需要进行大量的法律协商。如果必须重新协商数据共享伙伴关系以允许持续评估或用户活动监控,则可能需要9个月。但依旧有很多数据共享合作伙伴关系可以解决。Nehmer 表示,他们会与律师合作花费大量时间使共享符合法律规定,并获得有效的数据

关于该项技术是否会创建DSS希望构建的“私密生活快照”,这仍然是一个悬而未决的问题。如果是,它将为[全世界]使用数据预测和管理员工设定新的标准。

当您寻找具有高度敏感的所谓国家机密的相关工作时,您必须同意放弃大量人权。因此,目前尚不清楚用户活动监控技术将如何复制到没有国家安全利益的私营公司。但如果它有效,未来的公司可能都会希望实施类似的东西,为监控员工创造新的规范。

Nehmer 所描述的系统对外部公司的吸引力当然取决于几个因素:该私密生活快照是否实际上导致工作能力提高,而不仅仅是降低风险; 而且,最重要的是,员工是否认为参与此类监控会获得奖励,他们是否愿意参与其中。

在某些情况下,如果参与的结果确实不那么令人紧张,工作更好,与领导人建立更好的关系,等等,那么这些奖励可能会证明员工或求职者的心态暴露是合理的。

然而在像科技这样的行业中,企业为获得合格的申请人而努力竞争,很难想象有才能的员工会报名参加这种他们的数据总是被用来对付他们的监控计划。但同样具有竞争力的员工可能会为此所吸引(只要他们了解系统的运作方式。)

在其他情况下,如果管理人员选择使用监控来增加不良业绩的成本而不提供奖励,那么未来的员工监控可能会变成真正奥威尔式的世界。

还有其他问题。目前尚不清楚用户活动监测的广泛采用会起到什么样的影响,例如,官员在背地里与媒体沟通,或内部官员参与透明度革命,或其他在道德上的合理行为但可能对组织产生负面影响。

但这些结果都不是技术的直接结果,而是未来管理者的自由裁量权。有些老板很好,但有些不好。在未来,每个人都将被这种深入内心的监视全面扒光。你觉得这件事值得思考吗?⚪️

The US Military Is Creating the Future of Employee Monitoring. “We are putting these into a construct so that we can detect minute changes in behavior across an entire pattern of life, so that we can detect stress.”

广告

发表评论

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据