华东政法大学摘 要： 美国拥有强大的经济、科技和国防实力。人工智能代表了人类科技发展的最新成果。美国国防领域有关人工智能的重点举措既对美国有重要意义,对其他国家也会产生重要影响。美国国防领域促进人工智发展的重点举措包括:将人工智能发展提升至国家战略层面;国防部制定专门的人工智能战略;在人工智能道德准则、投资、研发和采购以及人才培养等关键环节深入研究、规范政策、统筹施行。 作者简介： 张钢,华东政法大学博士研究生(上海200042); An Analysis of the Key Measures of American Artificial Intelligence Development from the Perspective of National DefenseZHANG GangAbstract： The United States has strong economic, technological and national defense capabilities. Artificial intelligence represents the latest achievements in the development of human science and technology. The key measures on artificial intelligence in the U.S. defense field are of great significance not only to the United States, but also to other countries in the world. The key measures to promote the development of artificial intelligence in the U.S. defense field include: Promote the development of artificial intelligence to the level of national strategy; Department of Formulate special AI strategy with the help of Ministry of National Defense. In the key link of artificial intelligence ethics, investment, development and procurement as well as talent cultivation, the U.S. government usually take a deep study at first. After that, they standardize policies and implement them as a whole. 尽管人工智能的出现是20世纪50年代的事,但直至近几年才取得实质性进展[1]。因此,无论对于美国,还是对于其他国家而言,人工智能都是新生事物,但美国显然属于对这一新生事物研究起步比较早的国家之一。之所以如此,不仅在于其自身拥有强大的现代科技力量和能力,还在于其较早地洞察到这一事物对于未来的重要性。对此,美国国家科学技术委员会(National Science Technology Council,简称“NSTC”)在2016年发布的研究报告已有阐明[2]。规范而言,人工智能的边界概念化确有难度,但是以发展的视角来看,如何理解这一新生事物以及如何实现其带来的效率和责任之间的平衡等问题已经在全世界引起广泛的兴趣[3]。其中,美国的举措,基本上也就是近几年来的举措,尤其是在国防领域的重点举措,更能体现出其对这一新生事物的态度和重视程度。国无防不立,现代主权国家的国防有着更为特殊而重要的地位和意义。现代科技成果在国防领域的运用,无疑能够促进现代国防发展、提升国防能力,但作为手段,也需要其在符合现代文明理念的条件下规范发展。美国是现代世界上的一个经济、科技、军事强国,美国在国防领域统筹规划人工智能发展的举措尤其需要引起充分关注。 一、国防领域人工智能的发展被提升至国家战略层面二战以来,对先进科技的开发和创新,美国似乎从不缺位,人工智能同样如此。2017年,也就是在人工智能刚刚引起实质性关注之时[4],美国国会就于当年通过了一项专门性联合决议。该决议由国会议员Maria Cantwell起草,最终以法案的形式颁布[5]。从这一法案的名称上多少都能看出美国对这一新生事物的定位及看法——“未来法案”(The Fundamentally Understanding the Usability and Realistic Evolution of Artificial Intelligence Act of 2017,简称“FUTURE Act”)。该法案主要由四个部分构成,首次明确了一些关键性问题。其中,该法案的第二部分为立法目的。该部分解释了法案制定的一些背景,明确了为促进人工智能持续发展,国家必须厘清和规划的几项关键政策,包括完善投资和创新环境以保证美国在这方面的全球竞争力;优化发展以适应在专业人才方面因此产生的增长潜力、结构重组以及其他方面的变化;促进和保障人工智能在发展和运用上的公正以及保护个人隐私权利等四个方面。该法案的第三部分对相关概念进行了解释和界定,比如,如何界定“人工智能”等。该法案的第四部分规定了设立国家层级的联邦咨询委员会(The Federal Advisory Committee,简称“the FAC”),并明确了其组织体制、职能任务及财政支持等[6]。以这一法案为标志,人工智能作为一项现代科技被提升至国家战略层面进行了定位。这已经充分说明这一现代科技成果、发展潜力及未来影响对于国家发展的重要意义。 相对于科技的进步速度而言,专门性的政策,尤其是专门性的法律规范经常处于一种滞后状态。这是由多方面的原因造成的。面对人工智能这一新生事物,针对性的规范暂时性缺失这也是一种常态。事实上,美国在2018年之前,除了“未来法案”以外,对人工智能的发展和融合也没有更多的实质性法律或政策。这种状况,在美国制定2019财政年度的国防授权法案后,才逐渐改善。美国2019财政年度的国防授权法案制定于2018年,其中对人工智能有专门性的规定,包含对国防部在国防层面开发、发展及规范人工智能的重要授权和要求。第238条“人工智能研究、开发及变革联合行动”特别指示国防部长“将人工智能、适用于解决操作问题的机器学习解决方式、有涉人工智能的协作行动以及人工智能武器等运用于国防领域”[7]。该国防授权法案还要求国防部长在国防部内部指派一名高级官员以协助其展开下列工作:统筹所有人工智能发展活动、规划国防部关于人工智能的战略、灵活运用宽松授权许可扩充人工智能武器范围、提升人工智能能力以促进工业界、学术界及研究机构之间的交流、培养并维持有竞争力的专门人才、平衡私有领域、规定法律和道德准则管理人工智能发展及职业等[7]。 除此之外,国防部长根据授权指定的高级官员还有一项重要工作,即对国防部人工智能情况展开一年之久的研究,目的在于衡量评价“国防部及武装力量关于人工智能、机器学习以及关联技术的进步情况,国防部在人工智能、机器学习及关联技术方面的竞争力”,以及为确保和提升国防部在人工智能领域技术优势提出建议,平衡私营机构技术进步与人工智能商业化选择,适应人工智能需求而对相应部门进行重组,培训人工智能专门人才,设计国防部财政优化机制,对现存“有关人工智能、机器学习和关联技术”的管理机制根据需要进行改变等[7]。 从法律和政策的视角来看,对于国防部来说,这既是一个里程碑,也是一个分水岭。2019财政年国防授权法案的这些规定和要求体现得更像是一个广泛的承诺,但就授权而言,其本身则是明确的。进而言之,这项授权将会进一步促进人工智能的研发和部署。当然,这些目标的实现依赖于以下四项关键要求:一是所有人工智能发展和使用的道德基础;二是持续增加资金支持以保持国防部和美国人工智能的竞争力;三是在人工智能研发和部署方面有更大的采购灵活性;四是劳动力改革聚焦于吸引、开发和利用有能力的人工智能专业人才[3]。要求能否实现还不得而知,但是美国国防部已采取一系列重要措施以推进这一过程。 2019年2月11日,美国总统发布人工智能的行政倡议(“Executive Order on Maintain American Leadership in Artificial Intelligence”)。这项所谓“美国人工智能倡议”围绕着五项“指导原则”和六项“战略目标”而提出,旨在促进政府、工业界、学术界为人工智能研发与应用做出协调努力,表达了美国领导人工智能竞争的愿景:一是“联邦政府、工业界和学术界”的技术开发;二是采纳标准并降低“安全测试和部署人工智能的障碍”,以促进人工智能产业的增长及其对人工智能的使用;三是培养具有人工智能素养的人才队伍;四是保护“民事自由、隐私以及美国价值观”;五是提供国际条件“支持美国人工智能研究和创新……为美国人工智能提供市场”以及保护美国的人工智能发展优势和能力,拒绝“竞争对手和敌对国家的收购”[8]。 与国防部目前为吸引网络专业人才所做的努力类似,美国总统发布的这项倡议也强调将直接招募人工智能人才作为优先计划。该计划一旦实施和利用,无疑会吸引一些重要的人才进入人工智能队伍。此外,该倡议还要求管理和预算办公室发布有关人工智能的规范性指导,以保护创新、公民自由和美国价值观,以及获取人工智能技术。总体而言,这项倡议作为行政性指导规范,既为国防部或其他机构对现存监督管理框架进行必要的改变提供了依据,也创造了机会。 二、美国国防部专门制定了国防领域的人工智能发展战略美国总统2019年2月11日发布了人工智能战略,美国国防部于2月12日即发布与之配套的国防部战略。国防部人工智能战略,虽然从其发布主体来看仅为美国国防部,但鉴于现代国家国防的特殊地位,尤其是美国在经济、科技以及军事方面的实力,这一战略的现实意义已经远远超出国防领域。实际上,美国国防部的这一专门战略规划本身即着眼于“掌控人工智能以促进其安全与繁荣”[9]。从一定角度而言,这一战略也可被表述为确保美国“领导负责任地使用和发展人工智能”以及“使用人工智能的构想和指导原则符合法律和道德方式”[9]。美国国防部的这一战略已经充分意识到并明确了人工智能对于国防乃至整个国家的有益方面。这一战略同时也表明了美国国防部在使用人工智能时美国版的以人为本的态度和思想:一是支持和保护世界范围内的美国军人和平民;二是保护美国、护卫美国公民;三是创建高效的流水线型的组织体制;四是成为全球制定人工智能规则的带头人[9]。 2018年,美国国防战略中有这么一句话:“我们必须预判新科技在战场上的影响,严格定义未来冲突中可预测的军事问题,并培养实验和有计划的冒险精神。”[10]基于此种基础思想,美国国防部的人工智能战略显然旨在迅速采取行动以实现在人工智能上的优势。为实现此目的,美国国防部集中于以下五种战略方式:一是为关键任务快速、负责地部署人工智能能力。基于此,国防部将启动一系列计划,快速、迭代且负责任地整合人工智能,以增强关键任务领域的军事决策和作战能力。比如,提高态势感知和决策能力,提高操作设备的安全性,实施预测性维护和供应以简化业务流程。优先部署人工智能系统,通过减轻烦琐的认知或物理任务和引入新的工作方式以增强人员的能力。二是通过一个共同的基础来扩展人工智能对国防部的影响,从而实现分散式开发和实验。美军最大的优势之一就是其部队的创新性。最具变革性的人工智能能力可能来自“前沿”的实验,也就是说,由用户自己在远离中央办公室或实验室的环境中发现的。要利用这种分散式开发和实验的概念,美国国防部需要建立关键的构建块和平台,以扩大和普及人工智能的访问权限。这包括创建共享数据,可重复使用工具、框架和标准以及云和边缘服务的通用基础。同时,采取措施,通过数字化和智能自动化为人工智能应用提供程序准备。总而言之,这些企业范围的变化,促进了人工智能解决方法的传播,提高了实验速度和交付速度,并简化了成熟的人工智能原型规模化。三是培养领先的人工智能人才。人工智能的变革性和快速发展要求国防部做出一定程度的调整。为取得成功,国防部鼓励加速实验,以迭代的、基于风险告知的方式促进人工智能的实施。国防部通过投资培养现有人工智能人才,同时通过招募和与世界一流人工智能人才合作,将人工智能关键技术投入服务。四是与商业界、学术界、国际盟友和伙伴进行合作。从研究到部署和维持,在人工智能技术管道的每一个阶段,牢固的伙伴关系都是必不可少的。国防部为此与学术界和工业界合作,帮助应对具有重大社会意义的全球挑战,提供资金支持以吸引学者致力于国防相关的长期研究,并继续致力于培养人工智能的后继人才。国防部还加强与美国工业界的合作,以使民用人工智能领导层与国家防卫挑战保持一致,同时在国外发展重要的国家联盟与合作伙伴关系。此外,国防部还准备与全球开源社区合作并为之做出贡献,以识别和推断新兴技术和应用。五是在人工智能的道德准则及安全性标准方面保持领先。国防部将阐明其以合法且道德的方式使用人工智能,推广价值观念的愿景和指导原则;与来自学术界、私营企业界以及国际社会领导人进行磋商,以促进在军事环境中使用人工智能的道德和安全;投资具有适应性、耐用性、可靠性和安全性的人工智能研发。国防部也将致力于分享研发使用目标、道德准则以及安全程序,以鼓励其他国家负责任地开发和使用人工智能[9]。 美国国防部人工智能发展战略除了通过以上五个方面加速其优势形成以外,还建立专门的领导协调组织,以促进其战略的落实。国防部联合人工智能中心(the Joint Artificial Intelligence Center,简称“the JAIC”)即为这样的组织。与2019财政年美国国防授权法案要求一致,国防部人工智能战略也强调该中心是“国防部人工智能战略的焦点”,并要求其为关键任务提供人工智能解决方案;促进重点研究和发展;管理国防部人工智能应用的可扩展性;设定数据的使用和获取标准;领导人工智能规划工作、治理、伦理和协调;并通过招聘和培训,发展和维持一支具有人工智能能力的人才队伍等。 尽管联合人工智能中心的中心任务在于执行,但其在国防部部门之间同步人工智能活动也发挥重要作用。这对于避免重复和成本超支、促进教训吸收和建立新的管理办法是必不可少的。联合人工智能中心也会与国防部其他部门一道创设人工智能研发和交付规范和标准,在国防部部门之间、政府之间、行业界、学术界以及盟国及伙伴之间进行协作,以加强伙伴关系、突出关键需求、解决具有紧急操作意义的问题,并负责任地将人工智能技术应用于国防部任务等。 三、美国国防领域人工智能发展的几项关键行动(一)深入研究并制定人工智能研发和使用的道德准则为了推进道德操守,与2019财政年度国防授权法案、美国总统倡议以及国防部战略保持一致,国防部责成国防创新委员会(the Defense Innovation Board,简称“the DIB”)制定一套人工智能使用道德准则。这一道德准则的透明性是至关重要的,且能够最大限度地防止有偏见的人工智能系统的数据和算法。因为人工智能最普遍的方面是机器学习,它将算法应用于数据集,然后从数据中学习。“真正的安全问题……是如果国防部给这些人工智能系统有偏差的数据,他们就会有偏差”[11]。使用算法也存在同样的问题。事实上,“一些专家警告说算法偏见在许多行业已经普遍存在,几乎没有人努力去认识或纠正它”[11]。 在国防背景下,使用带有偏见的系统不仅是致命的,还可能无意中侵犯公民自由或违反法律义务。有鉴于此,2020年2月21日,国防部确认了以下五项基本准则,而且这五项基本原则与国防部创新委员会的建议保持一致,用于人工智能能力的设计、开发、部署和使用等环节:一是负责,即国防部职员将行使适当水平的认为判断和关怀,同时对人工智能功能的开发、部署和使用负责。二是公平。国防部将采取周全的步骤以降低人工智能功能的意外偏差。三是可追溯。国防部的人工智能能力将得到开发和部署,以使相关人员对适用于人工智能功能的记述、开发流程以及操作方法有一个适当的了解,包括透明且可审核的方法、数据源以及设计程序和文档资料。四是可靠。国防部的人工智能功能将具有清晰的、界定明确的用途,并且这些功能的安全性和有效性将在其整个生命周期内接受这些规定用途的测试和保证。五是可控制。国防部设计并规定人工智能能力以实现其预期功能,同时拥有检测和避免意外后果的能力,以及对显示意外行为的已部署系统解除或停用的能力[12]。 解决人工智能关涉的道德层面问题,在研发和使用人工智能时,强制推行道德透明度,对设定部门目标至关重要。确保某些系统的开发和使用保持在可接受的范围内,确保私营部门资源能够持续访问,这对于国防部在人工智能领域保持竞争力至关重要,并表明“在人工智能武器和其他可能引起争议的人工智能应用方面的道德立场”也会成为人工智能研发和使用的伦理后盾。 (二)着手规范并不断增加人工智能发展的资金支持无论在人工智能发展速度,还是在竞争力方面,美国都把中国和俄罗斯视为最为重要的对手,当然,中国和俄罗斯两个国家近年来在人工智能研发方面也确实积累了一定的实力,并凸显出巨大的发展潜力。因此,美国及其国防部为了加快人工智能的发展速度,保持这方面世界领先的竞争优势,在研发、采购等环节的资金投入日趋规范并大幅提升。基于对中国及俄罗斯这方面的资金投入的比较,尽管这种比较的对象、范围以及具体数据的真实性等存疑,但就美国看来,尤其是在美国国防部看来,其当下关于人工智能发展的支持资金显然严重不足,尤其是在其他国家这方面的投入呈指数级增长的时候,美国的前期投入则是陷于停滞的[13]。国防部已经意识到这种现象且已表明了改变的态度[9]。 当然,人工智能是科技新发展的产物,是一个新生事物。科技本身在发展,对这种科技成果的认识也在不断发展,对其之于人类的价值和意义的认识也是一个不断深化的过程。从资金支持来说,美国国防发展研究工程机构(the Defense Advanced Research Projects Agency,简称“the DARPA”)虽然在2018年10月已经公开承诺未来五年内人工智能发展的投入为20亿美元,外加约17.5亿美元计划外资金由国防部联合人工智能中心支配[14],但是国防部的投资则更像是一笔糊涂账。2018年10月,美国国防部副部长Patrik Shanahan的发言也表明直到那时五角大楼都不知道它到底在人工智能上投入的具体资金数额[15]。当然这也是有原因的,因为对人工智能的界定是如此宽泛,以致相关投资数额难以准确计算。而这种状况则有待国防部联合人工智能中心为人工智能确定一个明确的定义和范围。现实而言,国防部将明确为人工智能投资的资金用于别处显然缺少依据,尤其是基于对国防部行为的传统信任,更不可能如此。实际上,美国2019年度国防授权法案对国防部的授权已经相当明确,也为之提供了一定的空间,以使得能通过广泛咨询,制定出人工智能的短期和长期规划、合适的财政预算以及发展人工智能必需的专门资金、用途及来源等。 (三)重视并不断修改相应政策法律为人工智能的研发与采购提供规范支持在2019年国防部授权法案、总统人工智能倡议以及国防部战略中,有一个共同的主题,即加速人工智能的研发和部署,但是美国既存采购程序及授权针对人工智能这一新生科技却有所不足。2019年1月,国防部中的被称为“809条款小组”的机构发布了国防部采购系统改革的报告,该报告用时近两年,意图将国防部采购系统改革成一个同步于技术创新速度的灵活的流水线型的系统。这个专门小组成立于2016年财政年度国防部授权法案第809条(“Section 809”)。该专门小组成立后进行了广泛的调研,最终形成一系列有价值的行政性的实质性的研究报告[16]。其实,这种寻求采购环节的改革在美国国会通过的诸多法案条款中都有体现。 美国2017年度国防授权法案中针对国防部在特殊采购中的规范也有新的变革,比如,授权国防部可以使用流水型采购程序,签订价值达到1亿美元且60天内决标的商业技术合同[17]。在 2019年度的国防授权法案中,针对人工智能的条款,采购授权相对于以往来说,这一授权的技术性关键在整体结构上已经发生变化。尽管在人工智能采购上依然必须根源于国会的授权,但国防部在人工智能采购方面的决定权和影响力也越显重要。在未来立法完善中,国防部也能借此提出更有针对性、更有现实性的立法建议。 (四)有针对性地调整人才规范,多角度扩充人工智能专门人才国防领域对人工智能的需求巨大,人工智能方面的人才本身具有一定的特殊性,而国防领域对这种专门人才的要求也有一定的特殊性。如何培养、吸纳这些专门人才,维持国防领域在专门人才方面的优势,确实是一个挑战。这在美国国防授权法案、美国总统的人工智能倡议以及国防部战略规划中都有提及,也为国防部在这方面修改相应规范和程序指引了方向、提供了原则。 在国防领域训练以及招募人工智能专门人才,紧跟科技革新步伐,需要对原有不同层次劳动和雇佣规范进行相应的修改或调整,毕竟国防领域对这一类专门人才有着特殊的使用需求。在这方面,国防部并非没有可资参考的先例。比如,国防部已经实施的一个实验性的收入示范项目(“the Acquisition Demonstration Project”,简称“AcqDemo”)。这是一个由工作表现决定收入的激励程序[16]。该项目显然能够顺畅地运用于人工智能的专门人才领域,且不需要经过实质性的修改。此外,在人才招募方式上,原有的招募程序存在的烦琐程序,在竞争性人才的招募中已显露出其不利之处。比如,地方高科技工作在专业人才招募中可能需要几天的背景审查,但在国防部而言,这方面的工作据调查则平均达到100天以上[3]。这种状况显然会造成一些潜在的人才流失。对此,国防部已经承诺相关过程的缩短,而且该问题已经引起现任国防部长Esper的注意,他还为此建议更为宽松的改革措施[18]。具体如何,有待后续执行,但就吸纳和维持人工智能方面的专业人才而言,这显然是一个正确的方向。 四、结论霍金在去世前不久曾警告说:“人工智能的发明也许是人类文明历史上最重大的事件,也许是最糟的。”[19]人工智能已经到来,而且增长迅速。美国以其强大的经济、科技及军事力量,使其在人工智能领域的举措,尤其是在国防领域的重点举措尤为引人关注。尽管在科技发展的视角而言,人工智能是一个新生事物,但近年来,美国已经将其提升至国家发展战略的层次。美国2019财政年度国防授权法案、美国总统发布的行政性指导规范以及国防部人工智能战略,都以政策或法律的形式为人工智能发展,为国防领域人工智能的研发和使用提供了规范遵循,或指明了未来发展道路。国防视域下对美国专门的人工智能重点举措的研究,既能够判断美国在这一道路上发展状况、走向何方,了解美国在这一问题上的态度和做法,在一定程度上也能为我国国防领域人工智能的发展和规范提供有意义的参考。 |
|
|
