如何应对ChatGPT可能带来的认知对抗危机

如何应对ChatGPT可能带来的认知对抗危机

作者：军鹰智库李宏阳 任家琛 万浩洋    来源：军鹰动态

ChatGPT是一种基于人工智能的自然语言处理技术，它采用了OpenAI提出的GPT（Generative Pre-trained Transformer）技术，在大规模训练语料库的基础上进行无监督的预训练，使其具有生成文本的能力。现代军事领域对情报分析、数据处理的高需求使得ChatGPT有望部署于未来战场。然而，俄乌冲突在网络、舆论方面的攻防对抗启示我们：现代化战争不仅是信息的战争，更是认知的战争。ChatGPT或成为敌实现政治目的、欺骗误导认知、意识形态布局的新入口，我们亟需一些理论指导方法，在这种潜在威胁下的认知对抗中取得胜利。

“乱花渐欲迷人眼”，日益加快的军事科技变革更加突出人的重要作用。传统的大规模兵团作战已经不能适应时代的变革发展而退出历史舞台，而现代化战争不仅需要先进的武器装备，更要在人工智能影响下的未来战场保持清醒的头脑，具备信息辨别能力和自我约束能力。总结历史经验不难发现，许多优秀的战争思想与军事理论所形成的方法在今天仍能为我们提供理论指导。自觉认清人的主导作用、发挥人的主观能动性是应对ChatGPT带来的认知对抗危机的重要法宝。

一、ChatGPT何以引发认知对抗危机

目前最具代表性的是GPT系列的上一代版本GPT-3，包含1750亿个参数，GPT采用前序信息提取语义的单向编码器，具有强大的文本生成能力，还可以通过技术手段进行模型微调，这就为ChatGPT更加贴近人类认知打下技术基础。ChatGPT通过分析用户输入的语句，可以自动生成相应的回复，从而与用户进行交互和沟通，是制造认知对抗危机天然摇篮。

一是出于政治目的主观施加认知对抗。

ChatGPT不仅可以被用于处理客观信息，也有可被用于实施主观认知对抗。随着国际局势的不断发展变化，美国对外认知领域渗透愈演愈烈。从历史上看，美国利用新一代技术赋能认知领域攻击的例子数不胜数，特别是近年来美军关注认知领域对抗，提出“制脑权”，以最新的科技手段服务认知对抗，对科技产品添加政治倾向的元素，以此实现政治目的。特别是在涉及政治问题，如谈及美国共和党与民主党领导人时其生成内容具有一定的倾向性，一定程度上暴露了此技术可以出于政治目的而被应用于认知对抗的可能性。

ChatGPT具有一定的政治倾向性

二是通过ChatGPT传播虚假、错误信息。AI时代人们不可避免的依赖于电子设备，生活在信息爆炸的时代。ChatGPT的出现为信息安全和信息精确问题增添了不少不确定因素，不难发现在某些提示词的输入或某些专业知识的回答上，ChatGPT显得有些“信口开河”。一些看似客观公正准确合理的信息，极有可能已经“变质”。信息的准确性一旦受到威胁、遭到破坏在当今时代极其致命，它直接从认知源头引发了认知对抗危机。

ChatGPT曲解用户意图并生成错误内容

三是进行认知笼络服务意识形态布局。ChatGPT模型的预训练和调优过程中的关系识别提取包含情感分析，即大语言模型GPT对于文本数据的输入能够进行用户情感分析，据此生成特定的、满足用户需求的结果。用户面对服务性极强的ChatGPT，就会不假思索地认同其生成内容，长此以往便会陷入美国编织的这一“温情陷阱”中不能自拔。不能在政治层面进行直接攻击，ChatGPT的出现正好成为了意识形态斗争的天然阵地，更有甚者将美国式价值观融入生成内容。面对ChatGPT，一旦民众或指挥员产生过分依赖，事无巨细与其进行交互，不仅会增加自己的思维惰性，意识形态防线也会荡然无存。

二、认知对抗危机的“制胜法宝”二、认知对抗危机的“制胜法宝”

发挥人的主观能动性、主导战争胜负仍是认知对抗领域克敌制胜的最佳武器。从本质上讲，ChatGPT依靠海量数据预训练大语言模型，通过模型优化调整，加入强化学习等机器学习方法使得ChatGPT具备生成能力能够与人“从容交流”，但这绝不代表以ChatGPT为代表的生成式AI技术具备智慧和灵魂。“灌注论明显犯了混淆有机体与人工智能根本界限的错误，人工智能自意识之类的观念本质上是概念误用,”根据人工智能只是来源于模仿人类的被动学习这一短板，发挥人的主观能动性，在认知对抗过程中主动发挥群众优势、积极考虑群众因素，可以减少ChatGPT的使用从而规避错误信息与不良价值影响。同时重视争取战场主动权，在处于弱势时能够进行力量转化。深入理解灵活机动应对ChatGPT带来的认知对抗攻击，关键就是要注重认知训练主动创造认知对抗优势。一方面各国需要防止各种认知颠覆，粉碎反动阴谋；另一方面要加强技术创新，实现智能化时代认知对抗的核心技术攻关。要想在ChatGPT可能引发的认知对抗过程中立于不败之地，就要从理论层面形成一些科学的指导方法。

首先，重视群众力量的应用。个人的力量无法解决认知领域的难题时，我们要注重群体的力量，组织专家、民众积极参与讨论，协同一致攻克难题，绝不可将全部的问题抛给人工智能工具，造成思维惰性的同时也让自己的认知主动顺应了别人的节奏。

其次，树立以人为主导的战争观念。ChatGPT是智能化战争的一个入口，其核心技术还掌握在美国手中，虽然它还没有广泛应用于军事领域，还不能明确ChatGPT能否改变战争样式。各国可以借此契机，大力发展AI技术，重视新型军事人才培养，警惕技术更新带来的认知对抗危机。同时在ChatGPT的使用过程中注重提升个人综合素质，以反复推敲提示词输入等方式借助AI实现思维能力锻炼，决不允许在认知领域被人工智能技术“钻空子”，“抢先机”，“带节奏”。

最后，培养创新思维。为应对不断更新的ChatGPT技术，我们需要以创新发展的理论武装头脑，不做传统战争思想、优秀军事的理论的“搬运工”。既然选择了理论指导应对认知对抗危机，必须对经典理论总结创新，形成一套科学的理论方法应对技术更新带来的潜在威胁。同时加强AI领域核心技术攻关，早日通过技术手段积极应对ChatGPT带来的认知对抗危机。

三、主要启示

在现代军事领域，ChatGPT等自然语言处理技术的出现虽然为获取战场情报、进行信息共享带来了便利，但同时也存在着认知对抗的潜在危机。通过发挥作为人的主观能动性，可以有效解决ChatGPT可能带来的认知对抗危机。在使用思想指导方法应对ChatGPT带来的认知对抗危机时，各国需要与人民群众紧密结合，以人为主体重视各领域发展，更重要的就是要注重创新思维，注重思想方法在现代化信息技术领域的运用和创新，真正从源头上使认知对抗过程“化险为夷”。