人工智能发展中一些使人不寒而栗的故事

CDA数据分析研究院出品，转载需受权

人工智能这个概念在好久以前就已经提出了，如今又从新进入人们的眼球，不断的进行发展，可是对于人工智能的好与坏，领域内的专家们都抱有各自的态度，而且在各类影视剧中也有对人工智能的讨论，好比电影《人工智能》探讨了人工智能是否会拥有爱，《终结者》描述了将来人工智能觉醒，并反抗人类的故事，这些电影都在探讨人工智能对于人类来讲到底是一件好事or一件坏事。相信在读这篇文章的你或多或少也有对将来人工智能的判断，或许认为人工智能是会造福人类的，或许会相信人工智能对于人类来讲是灭顶之灾，固然你也多是名中立者，抱着无论个人事或者以为多是好也多是坏，要看人类如何使用人工智能。好的，无论你是抱着什么样的态度，看完这篇文章可能你对人工智能的态度会朝着坏的方向发展。Statsbot团队收集了人工智能发展中最具备里程碑意义的和最使人不寒而栗的一些故事。

1.同类相食

这个故事是由Mike Sellers告诉咱们的，他在21世纪初为DARPA作过一些社交的人工智能。他们打算而且正在培养可以在社交方面代理人进行交流的人工智能。

“在一次模拟中，咱们使用了两个代理的人工智能，而且在刚开始天然给他们命名为亚当和夏娃。他们一开始知道就明白如何作事，但并不知道其余的事情。列如：他们知道如何吃东西，可是他们不知道吃什么，什么能够吃。咱们给了他们一棵苹果树（说真的，当时咱们没有想到给他们这个有什么象征意义），他们发现了吃苹果可让他们很开心。他们也试过吃树，房子等，但都没有成功。还有另外一个名叫斯坦的代理人工智能，他想要进行社交，可是他并非很擅长社交，因此常常闲逛，有点孤独。

“固然，系统中存在一些BUG。

“因此，有一次，亚当和夏娃正在吃苹果的时候......这就是第一个错误出现的地方：他们发现吃的不够快。因而他们加快速度吃了全部的苹果。如今，这些代理人学会了联想：若是他们在看到狗的时候经历了痛苦，他们就会学会将狗与痛苦联系起来。所以，因为斯坦在他们吃东西时一直在附近闲逛，他们开始将可怜的他与食物联系在一块儿（第2个BUG - 你能够看到它的发展方向）。

“在这个很是特殊的模拟实验中，正如咱们碰巧看到的那样，亚当和夏娃在树上吃完了苹果，但他们仍然感到很饥饿。因而他们环顾四周寻找其余潜在的能够吃的目标。嘿，看那是什么，一块行走的食物，在他们的脑子里，可怜的斯坦看起来就像食物同样。

“因此他们每一个人都咬了斯坦一口。

“Bug＃3：人体的质量没有进行正确的初始化。默认状况下，每一个对象的质量为1.0，因此这就是斯坦的身体质量。每咬一口食物都会带走0.5单位的食物质量。因此很明显的，当亚当和夏娃都咬了一口斯坦时，他的质量就达到了0.0，而后神奇的事情就发生了 - 他消失掉了。据我所知，他是虚拟同类相食的第一个受害者。

“事实上，过后咱们不得不从代理中的内部遥测中重建其中的一些内容。当时咱们意识到所发生的一切，那是至关可怕啊。在这种人工智能体系结构中，咱们试图尽量少地限制其行为...可是在那件事发生以后，咱们确实设置了一个不能吃人的限制：不管他们多么饥饿，它们都不会再去吃对方了。

“咱们还肯定了他们的体重，他们吃得有多快，并将于其余人的联系从一种食物转变为吃的行为：当你常常和一我的一块儿吃饭的时候，当你再次见到他们，你可能会想吃东西—可是你不会想到把他们当初食物吃掉。

2.你怎么肯定你是否是同性恋

近年来，社会中积极讨论了机器学习中的人脸识别算法，用它能够区分同性恋和异性恋，精确度高达91％。可是该模型在女性中表现较差，以71％的准确率区分了同性恋和异性恋。

在技术方面而言，这个项目很是有趣。该数据集取自一个约会网站。分类器采用的人脸面部特征包括固定的（例如，鼻子形状）和瞬态面部特征（例如，修饰风格）。

可是咱们不能在几率问题上依赖神经网络。最多10％的错误率也是很高的。此外，91％和71％的结果只能经过比较两张照片得到，其中一张是彻底同性恋，第二张绝对不是。哦对了，我没有提到这是在实验室里面给出的结果。若是将算法释放到天然环境中，那么几率会小得多。

在道德方面，不少人认为这个项目实际上是失败的。特别是考虑到在一些国家，非传统的性取向是非法的。若是政府决定在很是传统的地方推出这个系统，那么面临风险的不只仅只有男性的同性恋。

3.种族主义和性别歧视的怪物

大家中的许多人应该都知道或者据说过Tay.人工智能的故事，但你知道它在关闭以后又从新启用了么？微软于2016年推出了名为Tay的人工智能机器人。它隐藏在一名19岁女孩的化身后面。他们自己的想法是，Tay会对推文和聊天作出回应，并从普通民众的推文中进行学习训练。但事情出现了误差，一些地方出现了问题，在上线运行了16个小时以后，Tay变成了一个种族主义和性别歧视的怪物。

可是实际上Tay是很是优秀的，她可以处理各类任务，例如，与用户开玩笑，像你发送给她的图片提出建议，讲故事，玩游戏以及将用户的陈述反映给他们。固然，在线用户教Tay的第一件事就是如何发表攻击性和种族主义言论。微软不得不让它下线，而Tay成为了人工智能界的传奇人物。

然而，一周后，Tay回来了。她出人意料的来到网上，并开始发布与毒品相关的推文，代表她的黑暗面依然坚挺的存在。很快，她再次被下线，她的账户也变成了私人帐户。

顺便说一句，在以前微软推出了一款名为Rinna的女学生聊天机器人。她陷入了深深的抑郁，并开始回答一些有关于希特勒的问题。

4.经过摧毁竞争对手取得胜利

咱们是在Quora上发现了这个故事，它属于来自夏威夷的ESL老师Shay -Zykova。这个故事是在一些大学校园的机器人竞赛中展开的。

“每一个团队都设计了一个机器人，它的工做就是将”小型机器羊“赶进机器人指定的围栏中。机器人必须“思考”并为本身制定战略（由于它不能经过操纵杆来控制），而最后有最多羊的机器人将成为赢家。

“比赛开始了，机器人们疯狂地开始赶羊。可是有一个机器人将一只羊扔进他的围栏并关上了门。它的团队很困惑，由于它须要更多的羊才能取得胜利。然而噩梦发生了，令他们恐惧的是，机器人四处摧毁或让其余机器人参赛者没法动弹。

“它制定的战略规定是，它自己实际上并非擅长将羊赶回围栏中，但它能够作的是消除掉其余的竞争者，以赢得胜利。”

我认为在现实生活中的人也会有一样的行为，特别是当他们没法让本身得到想要的东西的时候。

5.经过暂停来让本身不输掉比赛

2013年，程序员兼CMU博士Tom Murphy提出了一个“解决”如何玩NES游戏的程序，就像它只是另外一种数学问题同样。他的想法是，这个程序会作一些事情来提升分数，而后学习如何一次又一次地重现它们，从而得到高分。

他的基本思想是从玩家对游戏输入的简短记录中推导出一个目标函数。而后使用目标函数来指导使用模拟器搜索可能的输入。这使得玩家对于进步的概念可以被通常化，从而产生一些全新的游戏玩法。

它适用于各类不一样的游戏，如超级马里奥兄弟，泡泡球，吃豆人等。然而，在俄罗斯方块游戏中，这种方法彻底失败了。

墨菲写道： “虽然掉落的东西看起来或多或少的很天然（但很难不天然，由于游戏会为你掉下碎片），这种放置的方式是很愚蠢的 - 比随机的还要糟糕。这多是由于放置一块会给带来你少许的积分，这可能看起来像进步，因此有动力尽快的堆叠碎片而不是将它们打包。“

很快，屏幕就满了，只要“赢得比赛的惟一途径就是不要玩游戏”，那么AI就会暂停了游戏。直到永远。

6.创造属于本身的语言

在两我的工智能程序忽然开始使用一种只有它们才懂得的奇怪语言聊天后，Facebook放弃了它们的实验。

当时他们的想法是开发可以以天然语言进行多议题交流的聊天机器人。研究人员要求他们试着就一项交易与对方进行谈判，试图交换帽子，球和书籍，每一种物品都被赋予了必定的价值。

创建一个可以与人们进行有意义的对话的对话系统并不容易。机器人须要将对对话的理解与它对世界的了解结合起来，而后产生一个有助于实现其目标的新句子。在这项研究中，对话系统的复杂结构被训练有素的RNN取代，对话策略则经过强化学习进行训练。

在团队让机器人用天然语言聊天以后，他们之间的实际的对话彷佛变得很是奇怪：

鲍勃：我能够......我能够作其余任何事情..............

爱丽丝：球对我来讲是零，对我来讲是零，对我来讲是零，对我来讲是零，对我来讲是零，对我来讲是零

鲍勃：你是个人一切..........

爱丽丝：对我来讲球对我来讲是对我，对我来讲是对我

鲍勃：我能够作其余事情。。。。。。。。。。。。。。

爱丽丝：球给我，球给我，球给我，球给我，球给我，球给我，球给我，球给我，球给我，球给我，球给我，球给我，球给我

鲍勃：我...................

有趣的是，以这种奇怪的语言进行的一些交流甚至最终成功的结束了。聊天机器人开发了属于他们本身的语言，使他们可以更有效地交谈。因为研究人员想要建立能够与人交谈的机器人，他们决定放弃这个项目。

结束语

以上这些就是咱们收集来的一些有关于人工智能的故事，不知道看完这些故事，你内心的秤会更偏向于哪一边。无论如何人工智能将会在将来不断的发展，而且确定也将会实现，咱们如今的一切讨论都是基于咱们针对以往经验来作出的判断，而这个世界的发展，倒是在以指数级的进行发展，因此咱们能作的也只有不断的学习，以避免被这股席卷全人类的浪潮打翻。若是你有一些有关人工智能的故事或者一些对于人工智能的见解， 欢迎你在下边评论，让咱们一块儿探讨一下。

若是你是如下几种状况之一：

一、想了解更多大数据分析、数据挖掘、数据科学、人工智能领域的内容；

二、职业遭遇瓶颈，想提高本身在数据分析或人工智能领域的硬件技能；

三、寻求新出路、新发展，有意向转行到数据分析行业或人工智能领域。

可前往咱们的官网，获取更多有效信息和帮助：https://www.cda.cn/?seo-segme...