由于AI，人类对战争的态度永远改变了

全文共2469字，预计学习时长5分钟

AI在战争中的角色

不少人都据说谷歌因为与美国军方的关系而面临身份危机。简而言之，在员工抗议愈演愈烈后，谷歌决定再也不续签“Maven项目”，不向美国国防部提供AI能力支持。

这是谷歌的问题，这家“善良”的公司目前正与亚马逊和微软竞争利润丰厚的云服务和人工智能政府合同，价值约100亿美圆。拒绝这类工做将抑制其巨大的商业潜力。近期，亚马逊已在宣传其图像识别软件“国防识别”，微软也标榜其云端技术已用于处理美国军方各部门的机密信息。然而，谷歌的公司文化意味着，签定大型国防活动会使得AI专家从谷歌离职。

尽管Manve项目宣称“无害”、非进攻、非武器、非致命，只用于识别交通工具以提升无人机瞄准的精确度，但它的出现引起了一些严重的问题，如将战场转移到数据中心，以及难以将民用技术从实际战用中分离出来。尽管谷歌工做人员试图将这些问题抛之脑后，但他们知道将AI分析图像用于世界各地的反叛乱和反恐打击，多少会有一些受害者。

世界前100所世界顶级AI公司都很担心这些问题（包括潜在的James Bond villain Elon Musk）。去年夏天，它们给联合国写了一封公开信。信中警告道，尽管研发自动武器系统的初衷是好的，但在无人工操做的状况下，识别目标并进行攻击，存在被滥用的可能。尽管终结者和彻底致命的自主权离现实很遥远，但该领域仍有许多使人担心的问题。

这并不奇怪，自定向武器的研发引发了继火药和原子弹后的第三次武器革命。所以，美国正在进行AI军备竞赛。军事专家称，中、欧已在国防AI方面投入巨资，俄罗斯也在朝着进攻性思惟武器化AI发展。去年，普京曾表示“AI是俄罗斯的将来，也是全人类的将来…这一领域的领导者将成为世界的统治者。”这种说法颇有煽动性，但其（部分）是正确的。在AI领域先发制人的国家在军事、经济和科技上占据的优点几乎无可限量。

这是他们下的最大赌注。为了弄明白这一点，就须要回到军事战略的基础上来。

1. MAD的终结

冷战结束后，军事联合体的基础已成为相互保证毁灭的原则。这一律念意味着，任何攻击者若是未能在首次攻击中彻底摧毁其目标，则将受到报复。所以，各国都试图先发制人以得到优点，而且若是看到互相保证毁灭任一方的平衡开始削弱，就可能会在技术层面上利用这一优点。

这就是人工智能的用武之地:经过大规模监控和对模式以及潜在目标的智能识别，先发制人者可在不承担任何后果的状况下迈出第一步。正是这种胜者为王的信念促使了军备竞赛，在很大程度上破坏了世界秩序，由于没有退路的弱势国家面对非MAD时，很难保持理智，更可能参与所谓的先发制人的战争，以阻止对手得到诸如强大军事AI的优点。

自动武器并不须要经过杀戮或制造灾难性战争来破坏稳定：轻轻扣动扳机就能够了。

2. 患得患失

面对全新军事科技容易患得患失。一旦取得了优点，这个国家如何代表MAD将在其清单上呢？不用回顾历史就能知晓，一旦制造出武器化AI，其它国家会有何举动。美国发明了核弹，就火烧眉毛要：A）测试。B）使这十亿美圆的投资物有所值（不必浪费钱）。C）告诉俄罗斯，他们拥有一款人人畏惧的新型武器，会改变接下来十年的国家平衡。不论是出于政治仍是战略缘由，研发了致命AI的国家都会想要耀武扬威，这是人的本性。

3.  战争的非人性化

倾向自动化武器的人有一论点：部署机器人系统比“传统战争”更有吸引力。由于和人类相比，机器人更少犯错、疲劳或情绪激动，因此牺牲也就更少了。不管是在战争时期仍是和平时期，正是悲伤和愤怒等情绪的存在使咱们称之为人。仁慈是人心里深处相当重要的一部分，然而自主化武器系统的出现则抹杀掉了对战争受害者的仁慈之心。亚历山大·索尔仁尼琴说过：“善恶的分界并不禁国家、阶级、政党划分，而是刻在每一个人心中。”

此外，发达国家所受的伤亡会少一些，但那些受超级大国鼓动而发生代理人战争的国家呢？大多数国家都没有拥有机器人公司的奢侈条件，就只能像上一个世纪那样，承受战争的人力成本。那些没法在战场上进行反击的国家，颇有可能衍生出国际恐怖主义，由于这是伤害对手的惟一途径。

4. 失控

假设所说的新技术是指AI、机器学习、机器人和大数据分析的混合体，能制造具备多种自主化程度的系统和武器，低到在人类的监督下工做，高到能自主“思考”。将来战场上，最具决定性的因素就是双方算法的质量和快到人类没法跟上的战斗速度（这是笔者最爱的阿西莫夫短篇小说的前提）。

相关风险是过于热切、经验不足的玩家可能会失去对其军事能力的控制(参考俄罗斯)。人工智能的燃料是数据。若是给军用机器人输入错误的数据，它可能将射程内的全部人都识别为潜在目标。

5 . 愚蠢的机器人

专家不惧怕聪明的机器人，但对愚蠢的机器人充满恐惧，由于它们很容易失控。对复杂系统的研究代表，行为的产生比单个行为的总和更加不可预测。所以，咱们不太可能彻底理解或控制某些类型的机器人，对于有枪的机器人就更应该增强监督。

当前面临的主要问题不是上述问题，而是无知的大众将该问题理解为“终结者大战人类”，致使了科幻小说式的叙事，而忽略了在法律、政策和商业领域亟待解决的很是现实和艰巨的挑战。正如谷歌发布的一套枯燥的AI道德实施原则同样，没法彻底相信公司可以作出正确的选择。所以，须要相关机构和政府构建一个务实、道德和负责任的国际化框架，以创建一套公认的准则。

自动化防护系统可以基于对威胁的分析作出决策，如来袭导弹的形状、大小、速度和轨迹，并比人类更快地作出反应。然而，归根结底，减轻杀手机器人潜在伤害的“开关”就在每分每秒每一个人所作的或大或小的决定中。

从来如此。

推荐阅读专题

留言 点赞 关注

咱们一块儿分享AI学习与发展的干货
欢迎关注全平台AI垂类自媒体 “读芯术”

（添加小编微信：dxsxbb，加入读者圈，一块儿讨论最新鲜的人工智能科技哦～）