 预测与判断：人工智能为何增加了人类在战争中的重要性  作者：Avi Goldfarb，多伦多大学人工智能与医疗领域的罗特曼讲席教授、市场营销教授、国家经济研究局研究员；Jon R. Lindsay，佐治亚理工学院网络安全与隐私学院副教授。 来源：Avi Goldfarb, Jon R. Lindsay, “Prediction and Judgment: Why Artificial Intelligence Increases the Importance of Humans in War,” International Security, Vol.46, No.3, 2022, pp.7–50. 导读 当前，机器学习的迅猛发展正降低统计预测所需的成本，同时增加了数据（能够预测）和判断（决定预测为何重要）的价值。然而，数据和判断在充满未知和冲突的战争中是难以评估的。因此，从该维度考量，对人工智能的军事作用分析有两个重要的战略意义。其一，采用人工智能的军事组织会日趋复杂，因为它们要适应各种决策中数据和判断带来的挑战。其二，在战略竞争中，数据和判断往往会成为目标，在这些方面的人机协作会越来越有争议，使得人工智能驱动下的冲突涉及强烈的不确定性、组织摩擦性和长期争议性。因此，作者认为军事上对人工智能的依赖将强化而非减弱战争中的人为因素。本文分为三个部分来证明这一观点：首先，介绍决策的政治和技术背景；其次，阐述人工智能在商业和战争中的作用；最后，阐明军事人工智能的战略价值并进行总结陈述。 人工智能的概念及理论背景 在本文中，作者将重点介绍机器学习这一在媒体、管理和经济学文献中受到广泛关注的人工智能技术，而搁置对通用人工智能（AGI）的探讨或人工智能系统是否能与人类智能相媲美或超越人类智能的争论。机器学习是统计预测的一种形式，它是使用现有数据归纳缺失信息生成的过程。 技术经济学的相关文献认为，对现有技术的补充决定了新兴技术的影响力。从该角度切入，人工智能并不是人类决策的简单替代。机器学习的快速发展改善了统计预测，但预测只是决策的一个方面。决策的另外两个重要因素——数据和判断——则是预测的补充。如果我们掌握高质量的数据并且能够清楚地做出判断时，人工智能就可以改善决策。 与经济学文献呼应，军事创新领域学术研究的一个主题是：技术不是军事力量的简单替代品。技术能力有赖于与其互补的制度、技能和理论。但是，由于人工智能对人类的能动性提出了挑战，上述理论便存在一定不足。因为它们较少关注人工智能的补充作用：包括组织基础设施、人类技能、理论概念和指挥关系等。这些都是利用自动化决策的优势和降低风险所必须考量的。 因此，本文试图挑战人工智能替代背后的假设，并探讨人工智能互补的含义。一般而言，如果高质量的数据可以和清晰的判断相结合，则自动化是有利的。但是，军事任务充满了不确定性和混乱性。如果军队在不确定的情况下过早地为自动化系统提供明确的目标，那么军队便有可能面临严重的后果。相反，对于具有高质量数据但难以判断的任务，人类和机器团队可以人机协作，分配决策的认知负荷(cognitive load)。作者认为，数据和判断将越来越富有价值和争议，因此人工智能驱动的战争将更加旷日持久和扑朔迷离。 决策的政治和技术背景 如图一所示，作者将经济决策模型嵌入国际关系框架，系统区分与人工智能相关的异同。决策一方面受到政治和技术环境的影响，一方面也重塑着两种环境。决策环境和组织机构分别影响数据和判断的质量。与此同时，机器学习的创新降低了预测成本。 图一中的“决策环境”是指军事组织面临的外部问题。例如国际力量平衡、外交联盟、地理地形和天气、敌人的作战能力和部署，以及与民间社会的互动等。这些外部问题构成了军事行动的威胁、目标、机会、资源和制约因素。决策环境最终决定了军事数据的意义所在，而环境的结构和动态则影响数据的质量。 “组织和偏好”是指军事组织解决战略问题的方式。这一类别包括官僚结构和程序、军种间和联盟政治、军民关系、与国防工业的互动以及其他国内政治。这些因素中的任何一个都可能影响军事组织的目标和价值观或它对特定情况的解释方式。组织机构的偏好，无论来源，都会反过来影响判断的质量。 此外，作者预计，随着时间的推移，将人工智能用于某些军事决策任务将影响战略环境和军事机构。随着数据和判断变得越来越有价值，战略竞争对手将有动力改进和争夺它们。因此，作者认为信息冲突将更加激烈而组织协调将日趋复杂。  图一：军事组织决策的战略背景 人工智能在商业和战争中的补充作用 数据质量的高低、判断的清晰与否以及判断的难度，决定了人类和机器在决策中的比较优势。表一总结了数据和判断对AI性能的影响。 表一：数据和判断对决策自动化的影响  人工智能在许多商业环境中成功应用的一个被低估的原因是，高质量数据和清晰判断的有利条件经常存在。商业贸易通常发生在制度化的环境中。法律、产权、合同执行机制、多元化市场、共同的期望和共同的行为规范都有利于买卖双方。这些机制使交易更加一致和高效。反过来，一致性为完全自动化提供了必要的支撑条件。我们预计人工智能将在更制度化的环境和更结构化的任务中取得更大的成功。 相比之下，战争发生在一个更加无政府状态的环境中。在国际体系中，根据现实主义的知识传统，没有合法的国家间机构来裁决争端、执行国际协议或约束行为。行动者必须准备好自我保护或与他人结盟以寻求保护。盟友和对手都有动机歪曲自己的能力和利益，并出于同样的原因怀疑他人的欺骗。军事化的危机和冲突充满了秘密和不确定性。战争目标是有争议的，因为无论好坏它们都调动了国家的激情。 作者预计，在战争中缺乏约束性机构将破坏人工智能的高质量数据和清晰判断的有利条件。证明这一规则的一个例外是，军事官僚机构可能为某些军事任务提供有利支撑。换言之，强有力的组织机构可以取代薄弱的国际机构。然而，在固有的不确定和有争议的战争环境中，组织所能取得的成就是有限的。数据和判断的具体背景将决定自动化在具体任务中的可行性。 此外，战争中充斥的各种不确定因素可能会扭曲或破坏数据，作者预计数据的质量会因任务和形势的不同而不同。换句话说，战略环境的微观结构非常重要。技术传感器提供的数据往往结构更合理，内容更丰富。但是敌方的欺骗或虚假信息行动往往会破坏数据质量，因此评估数据的具体战略背景，进而评估人工智能是否适合任何特定的决策任务至关重要。 人工智能在军事决策任务中的作用 如前文所述，数据和判断的关键人工智能补充存在两个一般假设。首先，稳定、合作的环境更有利于获得丰富、公正的数据；相反，动荡、竞争激烈的环境往往会产生有限的、有偏见的数据。第二，制度标准化有助于促成定义明确、协商一致的判断；相反，独特的地方习俗和内部冲突会导致模棱两可的争议性判断。 通过这两个假设的组合，作者描述了人工智能在军事决策任务中的四种不同表现机制。表二对这些类别进行总结，将决策背景（图一）的战略和制度投入到关键军事智能的人机分工（表一）中。 表二：战略和制度条件如何塑造军事任务的绩效  人工智能性能的最佳案例就是我们所说的“自动化决策”。高质量的数据和清晰的判断最有可能在高度常规化的行政和后勤任务中获得，这些任务更类似于文职组织任务。任何官僚机构可以做得好的事情，人工智能都可能帮助他们做得更好。人工智能最糟糕的情况是相反的象限，其中两个自动化互补都不存在。这一类别被称为“人类决策”，因为人工智能无法执行以有限、有偏见的数据和模棱两可、有争议的判断为特征的任务。 在另外两个象限中，“过早的自动化”介于完全自动化和人性化之间。在数据质量低下的情况下，依赖人工智能的风险尤其大，但此时机器却被赋予明确的目标并被授权采取行动。当致命行动被授权时，风险最大。如果数据有偏见或不完整，那么最好让人类而不是机器来解释不断变化的情况。毕竟，在动荡的环境中，清晰的判断会产生隐患。“人机协作”则强调人类通过人工智能来增强决策，在敏感环境中指导和审核人工智能的表现，从而将高质量的数据导向可靠的预测。 军事人工智能的战略意义 本文的中心论点是机器学降低了预测的成本，从而使数据和判断的价值显著提升。这意味着高质量的数据和清晰的判断可以提高人工智能的性能。但考虑到环境和制度的复杂性，这些条件很难在军事情况下得到满足。然而，能够满足这些要求的组织将获得竞争优势。人的技能是这种竞争优势的核心，其重要的战略意义在于： 第一，依赖人工智能的军事组织有动力改善数据和判断。人工智能的采用可能会从根本上改变判断的分布，改变组织中谁做出决策以及做出什么决定，但在所有情况下，人类最终都负责设定目标、做出权衡和评估结果。此外，制定和实施数据政策需要数据生产者和消费者之间的协商。在构建数据基础设施和管理数据质量时，人们也会做出细致入微的判断。人工智能系统既不能自己设计，也不能清理自己的数据，这使我们得出结论，对人工智能的日益依赖将使人类技能在军事组织中变得更加重要。 第二，对手有动机使数据和判断复杂化。面对人工智能赋能的力量，敌人将试图通过破坏预测的质量或使其变得无关紧要来改变游戏规则。因此，随着军事竞争对手采用AI战争的信息和组织维度将继续增加重要性和复杂性，争夺、操纵或破坏数据和判断的策略变得更加重要。同样，这使我们得出结论，更多的军事人工智能将使冲突的人为方面变得更加重要。 总结 人类重要性的日益增加，挑战了关于人工智能和战争的新兴智慧。许多分析要么假设人工智能将取代战士执行关键的军事任务，要么推测战争将以机器的形式发生，这反过来又创造了激励侵略和破坏威慑的先发优势。此外，那些率先用机器代替战士的国家被认为获得了显着的军事优势，这将使力量平衡转向早期采用者。这些结果是合理的，但它们是基于人工智能可替代性的有问题的假设。 基于人工智能互补性的冲突可能表现出非常不同的动态。作者认为，考虑人工智能补充（即数据和判断）的军事化竞争比设想自动化军事力量之间的战争更有用。战争中数据和判断的重要性增长将微妙地改变战略动机。因此，人工智能驱动的冲突更有可能由决心和机构能力来决定，而不是呈现为机器人部队之间的定位战。 总之，更加密集的人机合作将导致判断在军事组织中变得更加广泛，而战略竞争将变得更加政治化。无论自动化战争的未来如何，人类都将是其中的重要组成部分。 词汇积累 Strategic environment 决策环境 Human-machine division of labor 人机分工 Information contests 信息竞赛 译者：曲弘毅，国政学人编译员，上海外国语大学上海全球治理与区域国别研究院硕士。 校对 | 张睿哲 邓天瑞 审核 | 施榕 排版 | 韩欣洁 本文为公益分享，服务于科研教学，不代表本平台观点。如有疏漏，欢迎指正。  |
|
|
