监狱式教学

  • 一种新的监视系统正在进入市场,比人脸识别更可怕,它的顶级市场在哪儿?

布劳沃德县公立学校正在采取一种实验性的人工智能监视系统,可以比以往任何时候都更深度地入侵所有人的生活。

是的,所有人,不止学生,因为该技术正在推向市场。它比人脸识别更可怕,仅仅遮住脸是没用的。

南佛罗里达州的这套监视系统是全国最大的校园监视系统之一,上个月表示将安装一个名为 Avigilon 的摄像机 — 允许安全官员根据学生的外表跟踪学生。只需点击一下,警卫就可以提取学生在校园内其他任何地方出现的视频。

管理员表示将安装在被认为“风险最高”的学校周边的145摄像机系统,当算法感觉到“似乎出现了与众不同”的事件时,就会自动提醒学校监控人员。“

这种增加压力的监控网络已经为一些学生、家长和教师提出了重大问题,他们对其准确性、侵入性和有效性表示了深切担忧。这项技术可以像人类一样了解学校校园内的方方面面。

“这台计算机如何确定一所有3000多名孩子的学校里发生的一切哪些正确哪些错误?根据是什么?” Krawczyk 说,他是该校的老师,“现在我们周边每两英尺就有一台摄像机,但你无法让机器完成人类可以做的一切。你不能自动化学校。而我们正在把这些学校变成什么? — — 监狱

校园暴力的幽灵正在推动全国各地的学校领导人将他们的校园变成高强度监视的场地,希望监视系统能帮助他们发现所谓的“危险人物”。去年由科技巨头 Motorola Solutions 以10亿美元收购的人工智能服务公司 Avigilon 的支持者和设计者表示,其安全算法“可以以高速度和精准度发现危险行为,可能会阻止另一次攻击”。

但是,先进的监控技术令学童的日常生活受到了系统性的严密审查,这些系统将某些学生标记为可疑的、刺激保安或警察部队的响应,这一切都是基于隐藏在公众面前的算法的工作。

一些技术专家和公民自由专家指出,监视系统在防止校园暴力方面没有可靠的记录。他们的算法对偏差和准确性的测试(系统对识别可能的威胁有多大的信心)主要是由公司自己进行的。

如果 Avigilon 合同在未来几周内获得地区领导的最终批准,学区将花费超过60万美元的联邦和地方资金激活这个围绕高中校园的人工智能老大哥系统,合同记录显示,新的监视系统将与已经布设的另外10,000台摄像机一起运行全面监视。

然而,该计划的许多方面仍然是一个谜,目前还不清楚监视系统的数据和性能将如何被调整、测量或测试潜在的缺陷。学区拒绝媒体要求查看与该项目有关的记录,包括官员与该公司的通信,并引用佛罗里达州的一项法规称,任何与监视系统有关的信息都免于公共记录法

根据美国国家教育统计中心的调查数据显示,1999年科罗拉多州科伦拜恩高中枪击事件发生后的一年中,近20%的公立学校扩大了监视措施,使用监控摄像机。到2015年超过80%。

但目前还不清楚大规模监视对大规模暴力的影响如何。在此期间,每年的学校枪击事件数量是持平的、甚至略有增长;据 Post 分析发现,去年发生了25次枪击事件,这是至少二十年来大规模学校暴力事件中最糟糕的一年。

Avigilon 的技术不使用可以直接将人的身份与数据库中的图像匹配的面部识别软件。然而全国各地的学校和社区中心正在安装类似的软件,希望标记或阻止未经授权的访问者进入。

但在某些方面,Avigilon 的功能更强大,因为它的“外观搜索”功能允许人们只根据身体特征就可以被全面跟踪 — 而不需要面部识别。类似中国的步态识别的效果,遮住脸没有用。

据称该人工智能软件已经在数以百万计的图像上进行了训练,以理解人们的基本外观和运动特征,它的建造者说它现在可以从远处仅通过外观识别任何人 — 考虑到他们的身体形状、发型、他们的衣服、肤色等等。可以在几秒钟内建立一个精确的运动时间线

该公司正在将这项技术推向市场,有助于彻底改变公众监视,这些系统被宣传为超级观察,可以不间断地监视而不受干扰 — — 这是每天24小时扫描数千个视频流的必要条件。

同时生产车载摄像头和双向无线电的 Motorola 表示,去年收购 Avigilon 时,其人工智能监控系统有助于满足军队和警察监视的蓬勃发展的市场。

布劳沃德县公立学校聘请的咨询公司 Safe Havens International 的执行董事 Michael Dorn 表示,像 Avigilon 这样的视频分析系统在寻求最大化监控能力的学校中变得越来越受欢迎。

对学校暴力的技术解决方案的渴望使大量科技和监视技术初创公司竞相争夺公共客户。市场研究公司 IHS Markit 的高级分析师 Jon Cropley 表示,学校和其他相关的买家是全球监控系统的第五大市场,但是在美国是顶级市场,2017年的收入为27亿美元

监视摄像机算法也越来越多地以非常规方式、有时甚至是未经证实的方式部署。例如,初创公司 Athena Security 提供一种监控摄像头软件,据称可以在有人拿出枪或刀时自动检测到。该系统在武器图像数据集上训练,在宾夕法尼亚州的一所高中布设。

公司负责人 Lisa Falzone 表示,该系统没有经过独立测试,但内部试验表明“它可以达到99%的准确度”。然而,对类似技术的批评者担心,当有人拿出只是手机而不是枪支时,不准确的识别 — 可能会产生致命的后果!

Parkland school turns to experimental surveillance software that can flag students as threats. Schools and other education-related buyers are the fifth-biggest market for surveillance systems across the world but the top market in the United States, with $2.7 billion in revenue in 2017

广告

发表评论

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据