2020年1月,兰德发布了题为《Deterrence in the Age of Thinking Machines》(思维机器时代的威慑)的研究报告,分析了会思考的机器人(Thinking Machine,人工智能)如何改变未来战争。
在报告中,研究人员呈现了多个国家使用人工智能和先进自主系统进行对抗的未来战争场景,给出了这些技术对威胁和升级带来的潜在影响。
人工智能和自主系统有改变未来战争的巨大潜力。随着战场上无人系统的使用、商业级AI取得的突破、许多国家将AI和自主系统应用于军事的兴趣,都使得人工智能和自主系统有望广泛应用于未来战争中。
人工智能机器对国防威慑的影响:
自主和无人系统会影响延伸性威慑以及向盟国兑现承诺的能力。在兵棋推演中,盟国并不认为用机器人取代美军是承诺减少的表现,但情况并非总是如此。如果盟国认为自主和无人系统更有能力,或者他们认为美国领导人更可能使用自主系统,那么自主系统可以提高美国常规、扩大威慑的可信度。另一方面,盟国可能会把美国对无人系统的依赖看作是不愿意在与对手的对抗中让美国的生命处于危险之中。这可能会降低美国向盟国保证的能力。
广泛的人工智能和自主系统可能导致意外的升级和危机不稳定。以机器速度做出的决定也有可能使危机以机器的速度升级。在旷日持久的危机和冲突中,各方可能有强烈的动机尽早广泛地使用自主系统,以获得军事方面的优势。这就增加了首次打击不稳定的可能性。人工智能和自主系统也有可能会降低对手之间的战略稳定性,并进一步扩大使用武力的可能,因为这些系统会降低军事人员的风险。美国和中国之间的自主系统军备竞赛已经迫在眉睫,这可能会加剧不稳定的情况。
人类与智能代理的不同组合可能会影响两者之间的升级动态。在兵棋推演中,美国和日本军队走上了一条主要使用无人系统和有人控制的道路,而中国军队则使用由机器控制的载人系统。这就形成了一种动态,其中美国和日本由于不愿意杀害中国人曾多次尝试解除危机,但中方似乎并不觉得有必要解除危机。
机器在理解人类威慑性方面可能会更差。人工智能正被积极用于创造战术和作战优势,这可能会误解对手尝试解除危机的信号,和避免进一步升级或主动解除危机的情况。
传统的威慑主要是关于人类试图了解其他人类,而在这个智能的新时代,威慑涉及到许多其他途径的理解。人类不仅必须了解敌手,还必须充分了解自己的(智能)机器和敌手的(智能)机器。同时,机器还必须准确地理解友军、敌军和敌军的(智能)机器。这些其他途径的理解可能会带来误解和误判的可能性。随着时间的推移,持续的现代化意味着国家使用的系统将可能是新系统和遗留系统的混合体,这可能会使人们难以理解军队中全部的人机交互。
在过去,自动系统经常会有无意中与友军或平民目标交战的案例,这可能会带来一些更先进系统的技术事故或故障的质疑。
军事自主系统并不是一个新的概念,地雷、鱼雷、方阵反导系统和宙斯盾武器系统等自主系统的交战也不鲜见。在许多过去的案例中,人和系统识别错目标是一个常见问题。人工智能有可能提高目标识别率,减少这种误差。在与更复杂的系统进行交互时产生的人类错误可能会带来一些新的非故意的接触。
人工智能和自主系统有可能会对威慑带来潜在的巨大影响。机器决策的速度、机器决策与人工理解的差异、不同国家是否愿意使用自主系统、在该领域缺乏经验、以及在相关领域能力的持续发展都是可能会产生影响的因素。当前的规划和发展还跟不上处理这些新技术带来的升级问题的步伐。