DARPA在ChatGPT出现的背景下寻找实现可信赖AI的道路

来源：智汇杰瑞

美国防高级研究计划局（DARPA）最近发起了“人工智能前沿”（AI Forward）计划，用于发现和探索新的研究方向，以构建和部署与国家安全相关的、可信赖的人工智能（AI）和机器学习应用程序。

DARPA希望通过“人工智能前沿”计划与专家们通力合作，致力于近期内使可信赖的人工智能技术成为现实，同时为DARPA相关的信息技术战略投资提供意见。

自从2022年11月ChatGPT公开供公众使用之后，其广受欢迎。这种交互式聊天机器人可以在一定程度上准确地完成各种不同的任务，可以在人类的提示下生成音频、代码、图像、文本、视频和其他内容，并能以对话的方式与人们进行令人信服的互动，这标志着生成式人工智能的一种具体应用。

尽管目前ChatGPT等生成式人工智能系统能力非常引人注目，但美国防部（DoD）认为，它们尚未达到DoD所需要的可靠性水平。

一、ChatGPT带来的新兴能力

     

  DARPA专家认为，人工智能技术的发展将经历三波浪潮。第一波是基础性的，包括基于规则的人工智能系统。这些人工智能系统遵循人类定义的规则。第二波人工智能系统引入了统计方法，可以对外来信息进行聚类和分类，然后根据数据预测任何下一步行动。当第三波人工智能浪潮完全实现时，人工智能系统将基本上具备识别和响应物理世界的能力，并可就其决策提供准确的情境解释。

DARPA专家认为，ChatGPT这样的大型语言模型属于第二波人工智能技术范畴，目前还没有看到任何第三波人工智能的成功例子。虽然现在人们建立了ChatGPT这样规模巨大的人工智能模型，但并没有全面了解它们知道什么、不知道什么、它们有什么能力，而这是一个超级艰巨的问题。要真正理解这些模型及其功能，将需要付出大量的、专门的努力，这正是AI Forward计划的全部内容。

近期，超过1000名技术领袖和科学家写了一封公开信，呼吁至少在接下来的六个月内立即暂停生产比GPT-4（或最新版本的病毒文本生成引擎）更强大的人工智能模型。

其实，早在ChatGPT上市之前，DARPA就已经提出了AI Forward计划，因为与商业行业相比，美国国防部对人工智能潜在的破坏和风险有着更深层次的理解和关注。

二、推进AI Forward技术

     

为了启动AI Forward计划，DARPA将在2023年6月举办一个虚拟研讨会，并于7月下旬开始在波士顿举办一次现场研讨会，届时参与者将就“引人注目的新方向”进行头脑风暴，以设计高度可信的AI。随着这些活动的结束，DARPA将邀请参与者编写白皮书，为快速探索DARPA可能资助的特定主题提供决策信息。DARPA认为，在可能对创建可信的人工智能系统至关重要的高级别类别中，最重要的两个领域涉及人类理解的人工智能及此类系统在多个方面的基础理论，以及如何开发这些技术。

尽管当前出现了类似GPT-4这样的大型多模态人工智能模型，DARPA也没有据此来构建所需要的人工智能系统。因为，如果这样做可能为滥用和难以控制的意外打开大门。

此外，DARPA还在AI Forward计划中寻求与合作者进行人和人工智能的合作。DARPA希望机器能够成为不同背景的人的队友，为人提供流畅、直观、值得信赖的服务。

目前，DARPA官员对AI Forward计划可能实现的所有目标持开放态度，而不仅仅考虑一种解决方案。因为人工智能的功能和运作方式与人类不同，至少对当前一代和可预见的近期人工智能来说是这样。这需要人们用不同的方式来衡量和评估它们。