“深夜上网”都会降低你的“社会信用评分”?无人能摆脱这种强制性监视

  • 社会信用和移动金融服务的可能性被阻止,以惩罚公民的抗议行为,仅作为一个例子。如果这两项服务在一个人的日常生活中变得不可或缺,那么政府批准冻结用户账户可能对公民自由造成重大损害。

中国政府已批准对社会信用体系进行试点,该体系利用公民的个人数据来分配非正式的信用评分,这些信用评分附带着私营公司和政府部门管理的利益和惩罚。

信用评分数据的五个维度是“信用历史,行为偏好,履约能力,身份特质和人脉关系”。获取信用评分的算法是“商业机密”,禁止可以确定其工作方式的测试形式。债权人的政府黑名单正在与私人和公共信用评分服务共享,以禁止个人进行某些交易。

这篇文章是“移动支付系统系列”中的第二篇,探讨了外国媒体中日益覆盖的中国移动支付应用功能:测试其有朝一日可能成为全国官方社会信用系统,以取代其传统的模拟对应物。目前最受欢迎的公开社会信用评分由阿里巴巴子公司蚂蚁金服建立的芝麻信用发行。

西方媒体把对社会信用体系的报道描述成了一种类似科幻小说的现象,即根据公民的在线行为、财务信息和政府记录为公民分配分数。

蚂蚁金服的代表透露,”深夜浏览网络”、玩视频游戏的时间、和购买特定物品都可以降低一个人的分数。无论这些说法是否属实,芝麻信用的评分机制仍处于试验阶段,因此可能会发生变化。我们对此类系统的潜在安全性、隐私性和其他问题的探索旨在提出可以为讨论如何发展的问题提供信息。

早在2003年,中国政府就表示,有兴趣创建一种全面的方式来分配公民信用评分,这将是对国家信用评级系统的改进。国务院最近批准了《社会信用体系建设规划纲要(2014—2020年)》,目前已有8家公司获得央行许可,可以进行自己的社会信用体系试点测试,类似于美国个人信用评级法(FICO)的消费者信用评级。

这种努力在中国独一无二的部分原因在于模糊性,在某些情况下完全没有以信用评分为目的的大数据收集规定,此类分数的潜在第三方使用,以及影响信用评分计算的用户数据的隐私保护。2016年11月7日发布的《中华人民共和国网络安全法》包含有关隐私保护的术语,但直到2017年6月才会实施。

本文涉及芝麻信用的社交信用评分服务,支付宝用户目前可以选择在该应用程序中接收该服务。芝麻信用分是最受欢迎的例子:中国全国社会信用体系有朝一日如何运作,提供了中国公司、公民和国家思维在这样一个体系中应该考虑的因素。

这是中国政府更广泛地利用大数据作为社会控制资源的一个组成部分。 信用评分分为五个维度:“信用历史,行为偏好,履约能力,身份特质和人脉关系”。这些类别的简要说明包含在支付宝的芝麻信用功能中,他们没有透露哪些具体行动会改变一个人的得分。

根据文件,“行为偏好”指的是诸如及时支付账单等行为,而“个人信息”包括年龄、性别、职业和教育历史。更令人不安的是,芝麻信用把不明确的“稳定性概念”考虑进去了,公司代表在没有明确界定的情况下提到了这一点。这些似乎是一个人的财务和社会地位的高度主观标记,有助于信用评分机制。

这个文件的同一篇文章指出,“如果您的地址经常变化,您的信誉将相应下降。此外,你的朋友的信用记录也将影响你的芝麻分”。误传的空间以及基于这些因素的歧视是广泛的,并且作为其背后的改变行为的动机也是相关的。

蚂蚁金服的首席信贷数据科学家俞吴杰曾表示,“如果你经常向慈善机构捐款,你的信用评分会更高,但它不会告诉你每个月需要多少付款……但是希望每个人都能捐款”。

此外,芝麻信用的技术总监李应云表示,“例如,每天玩电子游戏10小时的人会被视为闲着的人,经常买尿布的人可能会被认为是父母,他们总是更有可能有责任感”。

截至目前,这些声明加剧了西方媒体对社会信用的谴责,虽然应该注意到唯一可以确定地知道公司代表引用的因素可以提高或降低分数的方法是解构它们的算法,但是这些算法被视为商业机密。

如果没有对社会信用算法进行静态或动态测试的能力,我们怎样推断出它是如何运作的?芝麻信用的业务发展总监邓一鸣表示,用于产生信用评分的数据中只有30%到40%来自阿里巴巴拥有的公司和服务。除了通过支付宝应用程序中的用户活动收集的数据,芝麻信用使用从阿里巴巴的电子商务网站,共享单车应用程序,与支付宝相关的餐馆以及涉及法律、教育和商业的政府部门收集的数据计算个人得分。

这种数据交换最明显的例子之一就是芝麻信用与最高人民法院的关系,据报道,最高人民法院已经分享了其债务人黑名单和其他违反法院判决的人,以阻止这些人在淘宝和天猫进行所谓的奢侈品购买。

这种安排提出了芝麻信用是否在相反方向分享数据的问题,可能向其合作政府部门提供用户的交易信息。这些合作往往被芝麻信用与私营部门合作为高分人群提供福利所掩盖。

目前,拥有较高社会信用评分的特权包括免押金预订租车或酒店房间,以较低的利率贷款,在线购买付款前试用,通过简化流程获得卢森堡和新加坡的签证。其他表示有兴趣参与加速签证签发的国家包括日本、韩国、斯里兰卡和英国。人们一直在讨论高信用评分未来用于相亲和招聘的情况,这强调了有偏见的投入可能在很大程度上造成新的社会障碍。

中国政府把社会信用体系描述成重建公民与当地企业之间信任的一种手段,例如餐馆将受到遵守卫生法规的监控。建立社会信用体系的另一个框架论点是,它将使传统上无法获得信贷的人能够获得信贷,如学生、蓝领工人、小企业主等。

然而到目前为止,似乎具有较高分数(其中据推测实际上很少有用户已经获得)的优点是有利于那些财务状况较好的人来进行奢侈和频繁支出的优势。有人批评芝麻信用为那些进行更多支付宝交易的人提高了分数,该公司坚决否认这一点。与父母相关的购买获得高分,而改变家庭住址的人得分较低的例子进一步表明,缺乏背景可导致人们行为的误传,这可能带来不成比例的后果。

将大数据项目解释为采用用户数据的“客观”度量存在危险,部分原因是在指标不准确的情况下,很难对此提出异议。“华尔街日报”最近的一篇文章中的有个例子:一名女子使用她儿子的地铁通行证而被罚款,对算法来说,这似乎是盗窃行为。这一小事件引发了对社会信用评分可能被设计为脱离背景运作方式的担忧。什么样的法律补救措施可用于社会信用体系下的重大错误?

该领域当前实验的状态引发了许多关于用户保护的问题。关于用户隐私,很少讨论使个人的分数可以被他人看到的含义。例如,支付宝提供了一种游戏,在这种游戏中,朋友可以猜测彼此的信用评分并将其显示给彼此。

除了其他用户,为高信用评分持有者提供特殊服务的外部公司,以及应用程序与政府机构合作,将使用芝麻信用额度数据分享给哪些第三方?一些媒体报道指出,社会信用数据收集机制的集中化使得类似档案的个人在线和离线生活档案更加便携。

有哪些安全程序可以保护这些宝贵的个人信息库?

具有讽刺意味的是许多监控设备,社会信用系统及其相关传感器,QR 码和其他跟踪阅读工具的传播已经产生了新的安全问题,而不是通过近乎无处不在的监控来减少它们的行为。

这些新威胁涉及信用评分数据的伪造方式,以及可能使用虚假信用评分的目的。在北京机场加快对国内航班上旅行得分高的芝麻信用户的安全检查提供了一个例子,证明伪造的高分可以使某人绕过更严格的安全检查,这个技术娴熟、镇定自若的演员可能对国家安全构成威胁。

社会信用体系的使用越广泛,它可能为高分者提供的奖励范围越大,找出如何破解它的激励就越多。关于如何提高一个人的信用评分的文章和主题已经在增加,目前还不清楚入侵特定账户和伪造信息的难度。

正如前一篇文章所述,阿里巴巴经历了公司员工和外部黑客的数据泄露。由于社会信用体系的快速建立可能会使那些作为数据窃取和勒索管理目标的公司成为可能,因此必须质疑他们采取了哪些预防措施。

此外,由于大量的数据收集物联网(IoT)设备在中国销售,因此,作为社会信用的输入,跟踪公民的一举一动并从这些信息中获取的颗粒度能力只会越来越强,并且需要物联网制造商的工作来解决这些问题。

我们考虑的安全和审查相关问题是,社会信用和移动金融服务的可能性被阻止,以惩罚公民的抗议行为,仅作为一个例子。如果这两项服务在一个人的日常生活中变得不可或缺,那么政府批准冻结用户账户可能对公民自由造成重大损害。

切记,随着该系统的推出,虽然确定信用评分的算法可能会以用户和研究人员无法察觉的方式快速改变,但是国家和公司塑造社会信用系统发展的力量更加根深蒂固,并最终负责社会信用体系可能产生的现实结果。

CASHLESS SOCIETY, CACHED DATA

广告

发表评论

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据