在这个端午,从新看了一遍黑镜第三季(black mirror - season 3),一如既往,看完以后都是无尽的嘘唏和感叹。恰好在前两天,也看到了DDIA(designing data-intensive applications)的最后一章节,也是讲数据(data)的潜在的危害,好比对隐私的窥视;对偏见、歧视的加深。算法
黑镜这个神剧系列,反应了科技的滥用对人来带来的困扰与危害。固然,问题可能自己就是存在的,但科技放大了这些问题。科技是一把双刃剑,当咱们在拥抱科技带来的便利时,咱们也应该重视科技带来的问题。技术是无罪的,但发明或者提供这个技术的人是须要负责任的,若是明知这个技术容易被人利用做恶,那么提供这个技术就是有罪的。何况,不少公司即便知道技术有害,也仍是会用来谋利,好比屡禁不绝的医疗广告。安全
我的以为,黑镜第三季中最精彩的是第一集与最后一集。网络
Nosedive(急转直下)故事剧情:女主Lacie (Bryce Dallas Howard 饰,恰好是这几天上映的《侏罗纪世界2》中女主角)生活在一个十分看重我的评分的世界之中,在这个世界里,你能够给你遇到的全部人打分,自身分数越高的人,给他人打分的权重就越高。每一个人的分数决定了他们可以过上怎样的生活。app
剧集里面的评分系统和PageRank算法很像:每一个人能够给别人打分,本身的分数来自其余人评分的加权平均,我的分数越高,那么给别人评分的权重越大。因此为了提升本身的分数,最快捷的办法就是让高分的人给本身打高分。.net
这个评分表明了一切,表明了信用、阶级、我的素质、社会地位。拥有较高的分数那么就会有更低的首付、更低的贷款利率、更便捷优质的服务;而分数较低的人会受到各类各样的歧视与不公平对待。分数划分出了阶级,且固化了阶级。不论是在活生生的人类,仍是冷冰冰的机器系统看来,每一个个体都幻化成了一个分数,分数成为了惟一的评判标准。这扭曲了人性,为了达到别人的好评,虚伪、假笑、悲哀:设计
正如DDIA中描述的,这种分数致使的差异化对待,很容易加强偏见(reinforcing existing biases):一个评分良好的人,可能有因为突发事故,致使评分降低,这个时候,数据系统和其余人就会不公平对待,给予更差的服务和评分,致使恶性循环。剧集中女主就是这个例子,其余人如女主的同事(Chester)也是这样。rest
这样的评分系统现实中存在吗,固然是存在的,好比银行征信、好比蚂蚁芝麻信用。但这些评价体系,普通的我的只是被评分的对象,咱们只能相信评价机构(银行、大公司)是公正公平客观的。可是也存在个体之间相互评价的状况,如淘宝、滴滴。对于淘宝或者滴滴快车,买家是消费者,卖家是服务者,这并非对等的,买家对卖家的影响很大,卖家对买家的影响却很小,所以才是出现卖家威胁差评买家的状况,固然对于的也有职业差评师。对象
滴滴顺风车或者闲鱼,不论是卖家仍是买家,都会受到评分的影响。都会被贴上各类标签,这种标签对隐私的侵犯在不久前空姐顺风车遇害事件一经获得了体现,及时个性化标签已经下线,但评分依然存在,虽然目前看起来没有什么坏处,可是若是有一天这种点对点(P2P)的评价体系获得普及,也许就会出现剧中的状况。blog
权利越大,责任越大,如剧中的机场保安员,一个小小的举措就让女主的分数急剧降低,跌入了恶性循环的深渊。做为一名IT从业人员,咱们的代码、算法、系统、应用、服务也许也会对其余人产生重大影响,计算机系统是无心识的,但人应该有温度。事件
Hated in the Nation(为国所恨)剧情:社交媒体上被打上 #DeathTo 标签的人,将会被人工蜜蜂攻击致死。因而这变成了杀戮的狂欢,对本身讨厌的人(或者仅仅是跟风)说“去死吧”,充当刽子手。却不知,最终受到惩罚的是这些网络暴民。
互联网时代,没有人知道你是一条狗。
这句上世纪的金句,是网民在网络上施暴的一个重要缘由,既然干了坏事也不用付任何责任,那做恶就更加肆无忌惮。网络的隐秘性放大了人性的恶,在阳光下彬彬有礼的人在网上却完全成为了残暴、无脑的乌合之众。剧中大boss(Garrett)精心设计的这套报复计划的初衷,就是由于其同事 Tess(或者女朋友)由于网络暴力而几乎神经衰弱、甚至自残。
另外一方面,当今的互联网,不只能知道你是一条狗,还知道你是一条什么品种的狗,什么性取向的狗,吃什么狗粮的狗。我的的隐私信息在线上、线下都在被收集、贩卖、利用,其实你们都在裸奔。隐私的收集,也许初衷并无恶意,可是监管者、公司却没有能力保护好这些隐私,不论是国内国外,用户数据的泄漏都时有发生。固然,更多的时候,互联网收集用户的数据,原本就是为了用这些数据谋利。正如DDIA所说:
If the service is funded through advertising, the advertisers are the actual customers, and the users’ interests take second place.
除了互联网,这些年也搞出来一个物联网,提倡一切都联网。不只仅是电脑、手机、还有摄像头、牙刷、手表、任何家用电气。
当一个技术越广泛,被别有用心的人利用以后,危害越大。好比无处不在的摄像头,好比前段时间的360水滴摄像头事件,还有经过穿配设备推测出密码、啪啪姿式的例子。这些网络接入设备一来安全性不好,很容易被攻破,即便生产厂家以为已经固若金汤,但道高一尺魔高一丈,正如剧中的电子蜜蜂,Project Leader Rasmus 信心满满的说“绝对不会出问题”,但仍是被人控制了。
何况,这些设备极可能有后门,剧中的蜜蜂就是这样。两位警官去Granular公司的时候还在谈论:互联网上的人们认为政府利用这些人造蜜蜂监控公民,简直是精神分裂,却不知每个小小的蜜蜂都是一个监视器。
黑暗中,有一双眼睛在注视着你。