专题·人工智能安全 | AI能力边界不断扩展，将对国家安全产生深远影响

文 | 中国信息安全测评中心 王欣

随着 ChatGPT 的发布及相关应用的落地，人工智能技术给全球各个行业带来了一波又一波冲击。GPT-4 多模态大型语言模型更是将人工智能的能力提升到新的高度，无论从技术先进性还是应用实践能力来看，此模型均可被称为当前人工智能发展的集大成者，人工智能正以一种肉眼可见却难以预料的速度迅速扩展其能力边界。在人工智能的加持下，网络攻防、开源情报、军事对抗等国家安全相关领域均出现前所未有的科技创新和突破，或将对国家安全产生较大影响。

一、人工智能应用于军事斗争，传统武器如虎添翼

当代军事领域既是战略前沿技术发展汇集的核心地带，也是最富创新性、超越性、颠覆性的科学技术发展前沿，人工智能作为当前最火爆的关键新兴技术之一，在军事领域的武器装备赋能、战场情报分析、战略决策指挥、战时舆论引导等方面发挥着越来越重要的作用。

俄乌冲突战事持续焦灼，以人工智能为代表的现代关键新兴技术在其中发挥了至关重要甚至主导性的作用。2022 年 12 月，华盛顿邮报专栏作家大卫·伊格内修斯发表题为《算法如何在乌克兰打破平衡》的文章指出，美国人工智能公司 Palantir 为乌克兰军队提供了功能强大的软件系统，利用人工智能实现了精准的图像识别，通过将来自卫星、无人机以及社交媒体等渠道的图片进行关联分析，为乌克兰军方进行目标识别、瞄准打击、战事预警、战略决策提供了极大支撑。Palantir 首席执行官表示，“依托先进算法的战争系统能力之强大，等同于利用战术核武器来对抗常规武器。”3 月 24 日，前美国陆军网络司令部作战副司令罗宾·丰特斯与人工智能公司 RAIN 部门主管约里特·卡明加联合发表题为《乌克兰是人工智能战争活生生的试验场》的文章指出，俄乌冲突为人工智能技术提供了“活生生的试验场”，使真正的网络化战场愿景更接近现实。在作战武器方面，人工智能为大量使用的无人机和巡航导弹，在飞行、瞄准和射击方面提供了增强的自主能力；在战场情报方面，美国企业发挥主导作用的人工智能广泛应用于地理空间情报分析，结合了地面照片、无人机视频片段和卫星图像，产生了战略和战术情报优势；在电子对抗方面，美国 Primer 公司为乌克兰部署人工智能工具用于分析俄罗斯无线电通信，以获取战场实时情报；在舆论认知方面，俄乌双方利用人工智能生成大量虚假信息或错误信息，进行舆论引导，定向扰动民意，产生认知迷雾。人工智能在俄乌冲突各个领域的应用充分说明，此场冲突已经成为人工智能技术的试验场，并发挥了重要作用，真实战场数据反哺人工智能进行训练、调整和进化，未来将出现新型的“AI”战争。关于 AI 增强武器系统的公开报道只是冰山一角，人工智能技术已经开始部署在远离战场的系统中，如与规划、后勤保障和预防性维护等领域相关的云计算和数据分析系统，这场革命现在已经开始，而且不会停止。2 月，乌克兰数字转型部长米哈伊洛·费多罗夫在采访中表示，完全自主的杀手级无人机是武器开发中“合乎逻辑且不可避免的一步”，乌克兰一直在“朝这个方向进行大量研发”。5 月 9 日，美国防部发布《2023国防科技战略》，明确将可信人工智能与自治系统作为支撑国防创新的关键技术领域。

无论是在真实战场中的现实作用，还是在国家战略规划中的重要地位，种种迹象均表明，“人工智能+军事”的武器装备技术进一步成熟完善，一场人工智能引领的军事变革浪潮即将在不久的未来渐渐显现。

二、人工智能应用于情报领域，情报生产方式变革在即

人工智能技术凭借强大的数据整合分析能力，广泛应用于情报领域，将情报分析的自动化水平提高到新的高度。传统分析员借助人工智能更好地理解数据，提升情报研判与预测能力，情报机构利用人工智能技术高效的分析海量数据，做出更精准的战略决策。

各国情报机构高度重视人工智能的赋能作用，2022 年 12 月，美国发布的《2023 财年情报授权法案》中明确指出，人工智能是美国情报界重点关注的新兴技术之一，法案指出“为提高情报竞争力，情报界必须加速采用人工智能技术并将其纳入工作流程。调研情报界在开发、获取、采用、维护人工智能技术，改进情报搜集、处理和分析全流程方面所取得的成效和不足，确保商业尖端技术能够快速在情报界应用”。随着 ChatGPT 的发布，更是掀起了该项技术在情报分析方面的应用热潮。2 月，美国中央情报局（CIA）人工智能主管拉克希米·拉曼表示，该机构正在通过联邦政府资助的研发中心以及学术界和工业界的合作伙伴寻求该领域的帮助，探索使用聊天机器人和生成式人工智能功能协助其完成日常工作和总体情报任务；将 AI 整合到 CIA 行动和系统的很多工作正在进行，以确保 CIA 成为一个成熟的、人工智能驱动的组织，并扩大对对手使用人工智能和机器学习能力的理解。3 月 29 日，英国安全事务国务大臣汤姆·图根哈特撰文称，希望英国能设立一个专注于“开源情报”（OSINT）的全新情报机构，通过人工智能技术收集分析公开来源信息，用以协助传统情报工作，一方面帮助情报人员识别对手所造成的威胁，另一方面用于打击“虚假信息”的传播。

在当前数字经济时代，开源信息、网络数据已经成为情报生产的重要来源，传统人力已经不能应对巨量的情报分析任务，人工智能技术既能助力突破情报数据处理速度和规模上的瓶颈，还在情报挖掘、决策辅助等方面发挥更大作用，极大提升情报信息的可用性和洞察力。

三、人工智能应用于网络攻防，产生锋“矛”固“盾”之效

人工智能之于网络攻防的赋能作用相当明显，攻防两端均可利用人工智能技术开展更加高效、精准以及定制化的行动，网络空间的对抗形势将更加严峻。

以 ChatGPT 为例，其对网络攻防已经产生了意想不到的增强作用。在攻击层面，ChatGPT 凭借其强大的代码编写能力、文本生成能力受到多方赞誉，但是这也降低了网络攻击的门槛，攻击者能够利用人工智能模型建立完整攻击链条，自动化生成攻击代码甚至具有实战功能的攻击工具。自 ChatGPT 发布以来，暗网论坛中充斥着大量使用 ChatGPT 生成恶意代码的教程和相关恶意软件，网络安全公司 CheckPoint 曾在 2022 年 12 月展示了利用 ChatGPT 实施完整网络钓鱼攻击的过程，并依据其监测数据发出了“网络犯罪开始使用 ChatGPT”的警告。近日，Forcepoint 公司的研究人员成功绕过 ChatGPT“反恶意使用”保护机制，仅花费 4 小时就生成一款具备文件窃取及隐写传输功能恶意软件，并能够逃避近 70 款检查引擎的查杀。英国安全公司 DarkTrace 发布警告称，“ChatGPT 助长了网络勒索和更高级的网络欺骗”。人工智能技术凭借其强大的模型能力，使网络攻击的自动化程度、攻击隐蔽性、攻击渗透能力等均得到了不同程度的提升，随着模型的不断改进，它将成为恶意行为者越来越强大的工具和帮手。在防御层面，人工智能与威胁情报、大数据、云计算有效融合，形成算力、算法和数据叠加优势，有效提升网络威胁的响应和处置能力。俄乌冲突中，微软联合人工智能公司 RiskIQ 协防乌克兰，从外而内识别乌信息系统中的攻击面，帮助乌克兰及时发现和阻止大量网络攻击。3 月 28 日，美国微软公司宣布将 GPT-4 引入网络安全，发布了全球首款真正意义上的网络安全 AI 产品“微软安全助手”（Microsoft Security Copilot，以下简称Copilot）。Copilot 凭借人工智能的高效数据处理能力进行网络安全事件响应、评估和防御，实现对威胁事件的秒级响应和规模化处置。微软将最前沿的网络安全技术与人工智能相结合，是 AI 能力边界的再一次有效扩展，是在 ChatGPT 热潮之后的又一项具有里程碑意义的人工智能落地应用。面对网络威胁，Copilot 是一个名副其实的“安全大脑”，它具备了网络安全专家甚至专家团队的能力，既能够让初级安全人员快速上手解决安全问题，又能够为高级安全人员面对高级威胁提供及时有效的支持。从技术角度看，微软凭借多年的积累和布局，在算力、算法和数据等人工智能核心领域占据得天独厚的优势。在算力方面，微软 Azure 云基础设施平台为 Copilot 提供了充足的计算能力；在算法方面，Copilot 将全球最先进的生成式大语言模型与其领先的网络安全专用模型相结合；在数据方面，微软积累了庞大且优质的威胁情报和安全大数据，成为 Copilot 不断进化能够凭借的巨大数据金矿。除此之外，生成式人工智能也成为 2023 年 RSA 大会最热门的赛道，谷歌、埃森哲等厂商均推出了以人工智能作为核心技术的网络安全产品，Veracode、记录未来等企业也宣布要将生成式人工智能引入自身产品。人工智能无论作为一种解决方案提供方，还是一种能够重构现有解决方案的技术，都将在未来的网络安全领域发挥重要作用。

人工智能对网络安全带来了巨大而深刻的影响，它既被用来改进和加强网络安全解决方案，帮助分析人员更高效地分类威胁和修复漏洞，也被黑客用来发动更大规模、更复杂的网络攻击。人工智能将改变当前网络攻防态势，以 AI 对抗 AI 的场景将愈发普遍。

四、对策建议

ChatGPT 加速了人工智能时代的到来，随着其能力边界不断拓展，凭借在军事对抗、情报分析及网络攻防领域的应用优势，将成为大国博弈的另一战略武器，将对国家安全产生持续深远的影响。我国应密切关注全球人工智能技术发展及应用的最新动向，提早布局，增强人工智能的技术竞争能力。

一是加强人工智能核心技术研发保障关键领域应用安全。受益于数字经济发展的热潮，人工智能在我国呈现了蓬勃发展态势，在已形成的产业规模、人才投入、论文专利等方面，均处在全球领先水平，但我国在人工智能领域更加聚焦于技术应用，在基础理论、核心算法、模型框架、芯片等方面的核心关键技术与国外仍存在较大差距。我国应进一步加强人工智能核心软硬件技术的研发，实现从算法、模型框架、元器件、基础设施到系统结构的自主创新和全产业链的整体技术突破，保障在我国关键领域人工智能应用的安全可靠。

二是发展符合我国内业务场景的专用模型提升应用能力。通用人工智能大模型在内容生成、逻辑推理等方面展现出不凡能力，但专用模型更具备特定场景下解决现实问题的能力。我国在人工智能应用场景多样性方面拥有先天的优势，细分场景广泛而丰富，用户基础庞大，数据汇集效应较易形成，我国应充分利用此优势，以应用为牵引，加快发展不同行业领域的人工智能专用模型，汇聚国内科研和产业界的人工智能算法、算力优势，行业领域的数据资源优势，探索适合我国内现实情况的人工智能发展技术路线。

三是做好准备应对人工智能带来的网络攻防对抗严峻形势。在人工智能的助力下，全球网络空间将面临前所未有的严峻攻击态势，攻击战术、战法都将发生“范式”性的变化，攻击烈度、规模、逃逸性、抗溯源能力等将得到较大提升。我国应做好充分准备应对人工智能给网络空间攻防对抗带来的挑战，加强网络威胁情报数据的统一和共享，促进人工智能技术在网络威胁监测、攻击溯源检测、自动化协同防御、漏洞检测与识别等方面的应用，提升网络威胁防护能力。

（本文刊登于《中国信息安全》杂志2023年第5期）