你长得像坏蛋吗?

  • 你可能自己不知道,但是国安部知道,他们会因你的长相而抓捕你,为什么

你也许不知道自己长得像不像一个坏人,但是警察“知道”。国土安全部最近弄了个新计划,给世界各地的机场提供免费软件,这些软件通过大数据教会自己识别“谁是坏人”。

总部位于弗吉尼亚州北部的自动化机器学习公司 DataRobot 赢得了该部门的合同,开发了“预测模型,以增强对高风险乘客的识别”软件,根据合同,该软件应“以合理的响应时间进行实时预测”,这里的时间指的是不到一秒钟!DataRobot 目前正在测试该软件。

该合同还规定,软件的预测必须能够“单独”使用从票证记录和人口统计数据收集的所有信息 — — 例如原始机场、姓名、生日、性别和公民身份等标准。该软件还可以从稍微复杂的输入中提取,例如相关旅行社的名称、座位号、信用卡信息、以及更广泛的行程信息。概述文件描述了这样一种情况,即 软件可以通过查看年龄、国内地址、目的地和/或过境机场、路线信息、往返信息、逗留时间和行李信息等,与已知情况的进行比较。

DataRobot 正在将所有现代企业积累的大量原始数据转化为他们所希望的预测。其客户包括孟山都公司和中央情报局的风险投资部门 In-Q-Tel。

Homeland Security Will Let Computers Predict Who Might Be a Terrorist on Your Plane — Just Don’t Ask How It Works: “Algorithms will both replicate biases and produce biased results,” Patel said, drawing a parallel to situations in which police are algorithmically allocated to “risky” neighborhoods based on racially biased crime data, a process that results in racially biased arrests and a checkmark for the computer. In a self-perpetuating bias machine like this, said Patel, “you have all the data that’s then affirming what the algorithm told you in the first place, ” which creates “a kind of cycle of reinforcement just through the data that comes back.” What kind of people should get added to a watchlist? The ones who resemble those on the watchlist.

广告

发表评论

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据