隐私
如今，我们已经很难想象没有社交网络的生活了。每一天，我们都在社交平台上聊天、交流、分享创作、讨论最新的热门新闻等等。但值得注意的是，人们会用你的社交媒体账号来评估你偿还银行贷款的能力，或者判断你是否适合某个特定的工作岗位。
基于个人过往行为、社交圈和喜好来衡量个人潜力的方式被称为“社会评价”。个体的社会评价和银行发放贷款时用的信用体系有一定相似之处，但它包含的信息更加广泛一些。
实际上，已经有多个国家在各个领域内应用社会评价系统。例如纽约的保险公司就已经获得了许可，能分析客户社交网络的数据从而确定保费。
中国正在发展特色社会信用体系，有的人会觉得这是现实版1984，但也有人觉得这样的系统有助于提高安全性，并不可怕。那么，我们的社会和技术是否已经准备好迎接即将到来的这一切？
人们对于社会评价的看法
为了了解用户对社会评价的态度，我们对全球1万多人进行了问卷调查。 以下是我们的发现。
略少于半数(46%)的人听说过社会评价，这个概念在亚洲更为人所知。 例如，中国正在全面推行社会信用体系，因此有71%的中国受访者知道社会评价的事情，而在奥地利和德国，这一比例仅为13% 。 更重要的是，近一半(45%)的受访者表示他们难以理解是通过什么样的过程计算得到每个人的分数。 只有五分之一(21%)的人在现实生活中接触过社会评价体系（实际上有些人只是没有意识到社会评价在贷款和抵押贷款时发挥的作用)。
但同时，多数人普遍认可社会评价的基本理念，有七成的人认为根据个体行为限制其接触公共资源（交通、教育、住房等）的程度是公平和正确的做法。
只要有充分的正当理由支撑，大多数人不会抗拒被监控这件事。为了提高安全性，有一半的人愿意接受政府介入监控社交网络；有四成的受访者同意分享和企业分享数据以换取折扣和其他权益；仅有20%的人表示，其他个人和公共组织对他们的个人信息感兴趣的事实令人不安。
社会评价系统的技术问题
我们调查的大多数人都支持社会评价的想法，在他们看来，这个系统应该能提供公平公正的评估结果。然而，在目前的技术条件下，是无法实现的。
我们只要提一个最简单的问题，你要怎么样才能追踪错误判断？现有的系统全部都是基于神经网络开发的，甚至有些开发者都弄不清楚它的运行原则，就更不要说使用者和一般公众了。神经网络在提高或降低一个人的评分时，不会说明它判断的信息基础。哪怕你工作体面，收入也不错，但只要计算机说你没资格申请贷款，你就没法得到贷款。
用医学测试和计算机安全的术语来说，上述情况就是”假阳性”，也就是安全解决方案将一个干净的文件标记为病毒，或医学测试错误识别病人样本的疾病这样的情况。
而在我们最喜欢的反病毒领域，不同产品之间的误报率相差极大，有些产品判断错误的频率远高于均值，另一些产品出错的概率则低得多（卡巴斯基的安全解决方案误报率极低）。我们想说的是，彻底消除错误是不可能实现的。而当错误发生在影响个人权益和生命的评分系统中时，必将导致深重的代价。
除了不精确的算法和不完美的数据之外，系统也可能会被故意破解导致错误。我们的专家就全国性的社会评价系统确认了三种潜在的攻击类型。
1. 攻击数据收集设备
为了准确评估个人得分，系统需要有关个体的海量信息，除了社交媒体之外，还需要从各种各样的家用摄像头和传感器（即物联网）获取数据。这些设备往往都有漏洞且会反复受到攻击。仅在2019年上半年，我们就发现了1.05亿次针对物联网的攻击。
2. 针对软件实现的攻击
在系统收集海量数据后，它还需要对数据进行处理解读，才能最后赋予个体一个分数。负责这一过程的机制也可能存在漏洞，它既有可能被恶意软件感染，也有可能受到非标准的攻击。
我们简单举个例子，当攻击者佩戴涂色眼镜时，一般人很容易就能认出这个人，但智能摄像头可能会把他们认成其他人，那么攻击者在摄像头前所做的一切行为都将由他人代为承担。
3. 针对系统逻辑的攻击
最后，根据系统逻辑，攻击者可以识别出一些特定的行为，多次重复增加或降低评分，让分数彻底失去它原本的意义。他们可以利用系统逻辑漏洞提高自己的分数，或反过来破坏潜在受害者的评分。
为社会评价做好准备
总而言之，社会评价系统可能没有我们最初期许的那样公平和公正。但如今，各个领域都已经开始应用这个系统，随着时间的推移将进一步扩大覆盖范围。尽管我们无法完全修正它可能存在的问题，但还是应该试一试尽量降低风险。
提示