人工智能革命:人类永生仍是灭亡（中）

　　欢迎你们查看系列文章的中篇，这篇文章讲述了将来为何会是咱们最大的但愿，描绘了人工智能在将来对咱们好的一面。

　　为何将来会是咱们最大的但愿

　　当我了解人工智能的世界时，我发现有不少人站在这里：

 

　　在自信道路上的人们兴奋地嗡嗡做响。他们的目光投向了平衡木上乐观的一面，他们确信这就是咱们全部人的目标。对他们来讲，将来就是他们所但愿的一切。

　　这些人与咱们后面讨论的其余思想家的不一样之处在于，并非他们对幸福生活的欲望，而是他们相信这就是咱们将来生活的方向。

　　这种信心从何而来还有待商榷。批评人士认为，它来自于一种使人眼花缭乱的兴奋，以致于他们忽略或否定潜在的负面结果。可是相信这一观点的人表示，若是设想世界末日的情景是不会出现的，那么技术在接下来确定会帮助咱们，而不是伤害咱们。

　　Nick Bostrom描述了超级人工智能系统的三种功能:

• 做为一个回答者，几乎能够准确回答任何问题，包括人类没法轻易回答的复杂问题，即如何制造更高效的汽车发动机？谷歌就是这样一种原始的回答者。

• 做为一个执行者，执行给出的任何高级指令好比使用一个分子汇编程序来构建一种新的、更高效的汽车引擎，而后等待它的下一个命令。

• 做为一个自由者，它被赋予了普遍而开放的追求并被容许在世界上自由运做，本身决定如何最好地选择，好比发明一种比人类汽车更快，更便宜，更安全的方式供人类本身出行使用

　　这些问题和任务听起来对咱们来讲彷佛很复杂，可是对一个超级智能系统来讲就像有人要求你解决“个人铅笔从桌子上掉下来”的问题，你能够轻松的将铅笔从地上捡起来。

 

　　在自信道路上有不少热切的科学家，发明家和企业家，可是为了参观人工智能中最光明的一面，咱们须要一我的做为咱们的导游。

　　Ray Kurzweil是很是两极分化的。在个人阅读中，我听到了一切，从神的崇拜、他的想法以及鄙视的事务。其余人在做家Douglas Hofstadter的某书中讨论Kurzweil的想法时，雄辩地提出“就好像你吃了不少美食和一些狗屎而后将它们混合起来这样你就不能分辨出来什么是好的什么是坏的“

　　不管你是否喜欢他的想法，你们都认为Kurzweil的观点使人印象深入。他在青少年时期发明东西，在接下来的几十年里，他想出了几项突破性的发明，包括第一台平板扫描仪，第一台将文本转换为语音的扫描仪（容许盲人阅读文本），著名的Kurzweil音乐合成器（第一个真正的电子琴），以及第一个商业营销词汇量语音识别。他是五本全国畅销书的做者。他以其大胆的预测而闻名，而且在实现这些预测方面有这良好的记录，包括他在80年代后期的预测，当时互联网是一个不起眼的东西，到21世纪初，它才成为一种全球现象。Kurzweil被华尔街日报称为“永不停歇的天才”，被福布斯称为“终极思考机器”，被Inc杂志称为“爱迪生的合法继承人”，以及比尔盖茨口中的“我所知道的预测人工智能将来的最佳人选”。2012年，谷歌联合创始人Larry Page找到了Kurzweil并要求他担任谷歌工程总监。 2011年，他与人共同创办了奇点大学，由NASA主办，谷歌赞助，对于一我的来讲这样的一辈子还不错。

　　他的这本传记很重要。当Kurzweil阐述他对将来的见解时，他听起来彻底像个疯子，而疯狂的是，他不是一个疯子，他是一个很是聪明，知识渊博，与世界息息相关的人。你可能认为他对将来的见解不对，但他并不傻。知道他是一个正人君子让我很开心，由于当我了解到他对将来的预测时，我很是但愿他是对的。你应该也同样。当你听到Kurzweil的预测时，不少在自信道路里面思考的如Peter Diamandis和Ben Goertzel这样的人都会赞同他的观点，不难看出为何他有如此多、热情的追随者，这些追随者被称为奇点主义者。如下是Kurzweil进行的预测认为将来会发生的事情：

 

时间线

　　Kurzweil认为计算机将在2029年达到AGI，到2045年，咱们不只会有ASI，还会拥有一个全新的世界，他称之为奇点。他的人工智能相关时间表在过去被认为过度狂热，但如今被大多数人认为就应该这样，但在过去的15年里，ANI系统的快速发展让更大范围内的人工智能更接近Kurzweil的时间表。他的预测仍然比穆勒和博斯特罗姆调查的中位数受访者（2040年拥有AGI，2060年拥有ASI）要早，显得更加的雄心勃勃，可是并无那么多的不可靠。

　　Kurzweil对2045年奇点的描述是由生物技术，纳米技术以及最强大的人工智能领域同时发生的三场革命引发的。

　　在咱们继续讨论以前，纳米技术几乎出如今你所读到的有关人工智能将来的全部内容中，因此咱们接下来进入纳米技术的部分，对它进行一些讨论 。

纳米技术

　　纳米技术指的是处理涉及操纵尺寸在1到100纳米之间的物质。纳米是米的十亿分之一，或毫米的百万分之一，DNA（10纳米宽），以及像血红蛋白（5纳米）这样的大分子和中等分子如葡萄糖（1 nm）。若是/当咱们征服纳米技术时，下一步将是操纵单个原子的能力，这些原子将比纳米小一个数量级（~1nm）

　　为了理解人类试图操纵该范围内的物质所面临的挑战，让咱们在更大范围内采起相同的措施。国际空间站距离地球268英里（431千米）。若是人类是一个巨大的巨人，头部能够达到国际空间站，它们将比如今大25万倍。若是你将1nm - 100nm纳米技术范围扩大250，000倍，你会获得0.25毫米--2.5厘米。所以，纳米技术至关于一个像国际空间站同样高大的人类巨人，如何使用一粒沙粒和一个眼球之间的材料仔细地建造复杂的物体。为了达到下一级操纵单个原子，巨人必须仔细定位1/40毫米的物体。如此小的物体须要正常尺寸的人用显微镜才能看到它们。

　　Richard Feynman在1959年的一次谈话中首次讨论了纳米技术，他解释说：“就我所见，物理学原理并不反对以原子为单位操纵物质的可能性。原则上，物理学家合成化学家写下的任何化学物质都是可能的。“若是你能弄清楚如何移动单个分子或原子，你能够作任何事情。是的就是就这么简单。

　　纳米技术于1986年首次成为一个真正的领域，当时工程师Eric Drexler在他的开创性著做《Engines of Creation》中提供了基础，但Eric Drexler建议那些但愿了解纳米技术最现代想法的人，最好读一读他2013年的著做《Radical Abundance》

• • 灰色粘性

    咱们如今讨论一下有趣的灰色粘性。

    不管如何，咱们进行到这里，是由于我须要告诉你关于纳米技术传说中的难以想象的部分。在纳米技术理论的旧版本中，提出的纳米组装方法涉及建立数万亿个微小的纳米机器人，这些微型纳米机器人能够协同工做来构建某种东西。创造数万亿纳米机器人的一种方法是制造一个能够自我复制的纳米机器人，而后让复制过程将一个变为两个，而后将这两个变成四个，四个变成八个，而且在大约一天内，他们就会准备好了几万亿的纳米机器人。这就是指数增加的力量。很是聪明，对吗？

    这是很聪明的，直到它致使了宏大的完整的地球范围内的大灾难意外。问题在于，指数增加的能力使得快速建立万亿纳米机器人变得很是方便，这也使得自我复制成为一个可怕的前景。由于若是系统出现故障，当总数达成预期的数量时，并无启动中止程序，那么它们只会继续复制。纳米机器人被设计为消耗任何碳基材料以供给复制过程，而且使人不快的是，地球上全部生命都是基于碳基的。地球的生物碳基量含有约1045个碳原子。纳米机器人将由约106个碳原子组成，所以1039 个碳原子纳米机器人将消耗地球上的全部生命，这将在130次重复中发生（130次约为10 39次），到时候将会有大量的纳米机器人在地面上滚动。科学家认为纳米机器人能够在大约100秒内复制，这意味着这个简单的错误会在3.5小时内简单地终止地球上的全部生命。

    更糟糕的状况是，若是一个恐怖分子以某种方式得到了纳米机器人的技术并拥有编程技术，他能够制做最初的几万亿，而后安排他们悄悄地花几周时间在全世界范围内均匀地传播。而后，他们一会儿所有开工，只须要90分钟就能够消耗全部东西，并且随着它们所有散开，咱们将没有办法打击它们。

    虽然这个恐怖故事一直被普遍讨论，但好消息是它可能被夸大了，创造了“灰色粘性”一词的Eric Drexler在这篇帖子后给我发了一封电子邮件，上面写着他对灰色粘性剧情的见解：人们喜欢恐怖故事，而这个想法就是一个来自大脑幻想的恐怖故事。

　　一旦咱们真正获得了纳米技术，咱们能够用它来制造技术设备，服装，食品，各类生物相关产品好比人造血细胞，微型病毒或癌细胞破坏者，肌肉组织等等任何存在的的东西。在一个使用纳米技术的世界中，材料的成本再也不与其稀缺性或制造工艺的难度联系在一块儿，而是由其原子结构的复杂程度决定。在纳米技术领域，钻石可能比铅笔橡皮擦便宜。

　　咱们目前尚未走到那一步。目前尚不清楚咱们是否低估或太高估计到达这一目标的困难。但咱们彷佛距离目标并无那么遥远。Kurzweil预测，到2020年咱们将实现这一目标。各国政府都知道纳米技术多是一个惊天动地的发展，他们已投入数十亿美圆用于纳米技术研究（迄今为止，美国，欧盟和日本已投资超过50亿美圆）。

　　仅仅考虑到超级智能计算机能够进行强大的纳米级汇编程序的可能性很大，就已经很让人紧张了。但纳米技术是咱们提出来的，咱们正处于得到这项技术的边缘，并且因为咱们所能作的任何事情都是对ASI系统的一个笑话，咱们必须假设ASI会提出更强大的技术。咱们的大脑要这么去理解。出于这个缘由，当考虑“若是人工智能革命对咱们来讲是好是坏的”情景时，咱们几乎不可能高估可能发生的范围，因此若是如下对ASI将来的预测看起来言过其实的话，请记住，他们能够用咱们没法想象的方式完成。并且最有可能的是，咱们的大脑没法预测将会发生的事情。

人工智能能够为咱们作什么

 

　　拥有了超级智能和全部的技术，超级智能将明白如何建立ASI，并解决人类的每个问题。全球暖化？ASI首先提出更好的方法来生产与化石燃料无关的能源，从而阻止二氧化碳的排放。而后，它能够建立一些方法开始移除大气中多余的二氧化碳。癌症和其余疾病？ASI来讲没有任何问题会发生超乎想象的革命性变化。世界饥饿？ASI可使用纳米技术等技术从无到有的制造出分子与真正的肉彻底相同结构的东西，换句话说他们就是真正的肉。纳米技术还能够将一堆垃圾编程一个巨大的桶，里面装满了新鲜的肉类或其余食物（这些食物不须要有正常的形状-好比一个巨大的立方体苹果） - 并使用超先进的运输方式将全部这些食物分配到世界各地。固然，对于再也不须要被人类杀死的动物来讲，这也是很是好的，ASI能够作不少其余事情来拯救濒临灭绝的物种，甚至经过保存DNA的工做来拯救灭绝的物种。ASI甚至能够解决咱们最复杂的宏观问题 - 咱们关于如何运行经济以及如何最好地促进世界贸易的辩论，甚至是咱们在哲学或道德方面最模糊的争论 - 对于ASI来讲都是很是明显的。

　　但有一件事，我认为它对咱们是那么的诱人，我所认知的一切都被它给改变了：

ASI可让咱们打败死亡率。

　　几个月前，我提到了我对更先进的潜在文明的嫉妒，认为他们已经打败了本身的死亡，但我从未考虑过我后来会写了这样一篇文章，一篇真正的让我相信这是人类在个人有生之年中能够作的事情的帖子。但阅读人工智能的有关书籍会让你从新考虑你肯定认知的一切，包括你对死亡的概念。

　　进化没有充分的理由来延长咱们的寿命，使咱们的寿命比如今更长。若是咱们活得足够长，能够繁殖并照顾咱们的孩子到一个他们能够照顾本身的年龄，从进化的角度来看这就足够了。从进化的角度来看，这个物种能够茁壮成长到30多年的寿命，所以在天然选择过程当中没有理由会受到青睐突变出异常的寿命。所以，咱们就像WB Yeats所描述的那样，“一个与濒死动物紧密相连的灵魂。” 没那么有趣。

　　由于每一个人都会死，咱们生活在“死亡与税收”的假设之下，死亡是不可避免的。咱们认为老化就像时间同样，都在不断的向前运动，你无力阻止它们。但这种假设是错误的。Richard Feynman写道：

• • 在全部的生物科学中，没有关于死亡必然性的线索，这是最值得注意的事情之一。若是你说咱们想作永动机，但咱们在学习物理的过程当中已经发现了足够多的定律，这些定律要么是不可能的，要么是错的。可是生物学中没有任何证据能够代表了死亡的必然性。这对我来讲，这根本不是不可避免的，生物学家发现致使咱们麻烦的是什么只是一个时间问题，人类身体上的这种可怕的疾病或者是暂时性的疾病将会被治愈。

　　事实上，衰老并非一成不变的。时间将继续前进，但衰老并不必定会继续。仔细想一想，这是有道理的。全部的老化都是身体物质的磨损。随着时间的推移汽车也会磨损，但它的老化是不可避免的吗？若是汽车其中一个零件开始磨损可是若是你能完美的修理或更换汽车的零件那么汽车将永远运行下去。人体没有任何不一样，只是复杂得多。

　　Kurzweil谈到了血液中智能wifi链接的纳米机器人，他们能够为人类健康执行无数任务，包括按期修复或更换身体任何部位的磨损细胞。若是完善这个过程（或ASI会提出更智能的一个过程）不只能够保持身体健康，还能够逆转衰老。一个60岁的身体和一个30岁的身体之间的区别只是一堆物理的东西，若是咱们有这项技术能够改变这些东西。ASI能够创建一个60岁的老人能够走进去的“年龄清洗剂，他们会带着30岁的身体和皮肤走出来。即便是那些迷糊的大脑也能够被ASI这样智能的设备所刷新来回复活力，ASI会在不影响大脑数据（个性，记忆等）的状况下弄清楚如何作到这一点。患有老年痴呆症的90岁患者可能会进入返老还童阶段，而且可以以全新的姿态出现，准备开始一段全新的生涯。这看起来很荒谬可是身体只是一堆原子，ASI可能很容易操纵各类原子结构因此来讲这并不荒谬。

　　Kurzweil将事情向前推动了一大步。他认为，随着时间的推移，人造材料将愈来愈多地融入身体。首先，器官能够被超级先进的机器版本取代，这些机器版本将永远运行而且永不失败。而后他认为咱们能够开始从新设计身体，例如用完善的红细胞纳米机器人替换红血细胞，这些机器人能够为本身的运动提供动力，根本不须要心脏。他甚至能够进入大脑加强咱们的大脑活动，令人类可以比如今更快地思考能力的十亿倍并访问外部信息，由于大脑的人工智能能够添加云中的全部信息。

　　人类新体验的可能性将是无穷无尽的。人类将性与其目的分开，容许人们为了乐趣而进行性行为，而不只仅是为了繁衍后代。Kurzweil相信咱们可以对食物作一样的事情。纳米机器人将负责为身体细胞提供完美的养分，智能地指导任何不健康的事物经过身体而不会影响任何事物。就好像一个万能的避孕套。纳米技术理论家Robert A. Freitas已经设计了一种血细胞替代品，若是有一天在体内实施，将容许人类在不呼吸的状况下冲刺15分钟，因此你只能想象ASI能够为咱们的身体能力作些什么。虚拟现实将呈现一种新的意义，体内的纳米机器人能够抑制来自咱们感官的输入，并用信号取代它们，让咱们彻底进入一个新的环境，一个咱们能够看到，听到，感受到和闻到的新环境。

　　Kurzweil认为，人类最终可以达到彻底人工的程度;当咱们看到生物材料的时候，咱们会回想到人类曾经是多么原始，多么的难以置信 ; 当咱们读到人类历史的早期阶段时，微生物或事故或疾病或人体磨损可能会违背本身的意愿杀死人类; 人工智能革命可能随着人类和人工智能的融合来结束。这就是Kurzweil认为人类将最终征服咱们的生物学并变得坚如盘石和永恒的方式，这是他对平衡木另外一侧的愿景。并且他确信咱们很快就能够成功的。

　　当你发现Kurzweil的想法引发了不少批评时，你不会感到惊讶。他对2045年的奇点以及其后人类达到永生的可能性预测被嘲笑为“书呆子的狂喜”或“140智商的智能设计”。其余人质疑他乐观的时间表，或者他对大脑和身体的理解，或他对Moore’s law定律模式的应用，Moore’s law定律模式一般应用于硬件的进步，包括软件在内的普遍的事物。对于每一位狂热相信Kurzweil正确的专家来讲，可能只有三我的认为他错了。

　　但令我惊讶的是，大多数不一样意他的专家并非真正的反对他所说的一切都是可能的。在读到一个对将来的如此古怪的愿景后，我原觉得他的批评者会说，“显然，这些事情是不会发生的”，但他们说的话，“是的，若是咱们安全地过渡到ASI，全部的这一切都会发生，但这是最难的部分。“Bostrom是警告咱们人工智能危险的最突出的声音之一，但他仍然认可：

• 很难想象一个超级智能没法解决或至少不能帮助咱们解决任何问题。疾病，贫困，环境破坏，各类没必要要的痛苦：这些都是配备先进纳米技术的超级智能可以消除的东西。此外，超级智能能够经过使用纳米医学来阻止和逆转衰老过程，或者为咱们提供上传本身的选项，从而为咱们提供无限期的生命。超级智能也能够为咱们创造机会，大大增长咱们本身的智力和情感能力，它能够帮助咱们创造一个极具吸引力的体验世界，在这个世界中，咱们能够过着充满快乐的游戏生活，彼此相关，体验，我的成长，更贴近咱们的理想。

　　这是一个在焦虑道路上的人的说的一句话，但这就是我一直遇到的，专家们嘲笑Kurzweil有不少缘由，但他们并不认为他所说的是不可能的，可是须要咱们可以安全的到达ASI。这就是为何我发现Kurzweil的想法如此具备感染力的缘由。由于他阐述了这个故事光明的一面，也由于实际上他们是可能作到的，若是这是一个好神的话。

　　我听到有关自信道路上的思想家的最著名的批评是，他们在评估ASI的不利方面多是危险的错误。Kurzweil著名的书“ The Singularity is Near” 长达700多页，他将这些页面中的大约20页用于潜在的危险。我以前说过，当这种巨大的新力量诞生时，咱们的命运取决于谁将控制这种力量以及他们的动机将是什么。Kurzweil巧妙地用一句话回答了这两个问题，“ASI正在从许多不一样的努力中产生，并将深深融入咱们文明的基础设施中。实际上，它将深刻地嵌入咱们的身体和大脑中。所以，它将反映咱们的价值观，由于它就是咱们本身。“

　　但若是这就是答案，为何这么多世界上最聪明的人如今如此担忧呢？Stephen Hawking为何说ASI的发展“可能意味着人类的终结”，Bill Gates说他“不理解为何有些人不关心”，而Elon Musk则惧怕咱们“召唤恶魔”？那么为何这么多专家就这个话题称ASI是对人类是最大的威胁？这些人，以及焦虑道路上的其余思想家，并无相信Kurzwei对人工智能危险的拒绝。他们很是很是担忧人工智能革命，他们并无专一于平衡木的乐观的一面。他们太忙于盯着另外一面，他们看到了一个可怕的将来，一个不肯定咱们可否逃脱的将来。

　　针对将来人工智能对人类的将来好的一面就暂时到这里就结束了，系列文章的下篇将描述为何人工智能在将来可能会是咱们的噩梦，探讨了人工智能可能对人类的很差的一面，欢迎你们到时候继续观看。

　　原文连接：https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html