DARPA将启动人工智能项目促进更好的人机协作

liubazhang 2017-03-21

展开全文

为促成更好的人机协作，美国防高级研究计划局（DARPA）将启动一项人工智能与机器学习项目，名为“可解释的人工智能”（XAI）。8月10日，DARPA发布了该项目的跨部门公告。

项目背景

人机协作的历史可以追溯到工业革命时期。当前，机器学习方面的巨大技术进步已引发新人工智能（AI）能力的爆发，这些新人工智能能力生成了自主理解、学习、决策和行动的自主系统。虽然此类系统可带来颇多益处，但由于机器无法向人类用户解释自己的决策和行动，其有效性受到了限制。

项目构想

XAI项目的核心是机器学习与人机交互，寻求创建机器学习与人机交互工具，使依赖于人工智能系统的决策、建议或行动的终端用户，能理解这些系统做出相关决策的原因。XAI工具将有助于向终端用户提供对人工智能系统决策的解释，使用户理解人工智能系统的强项和弱点、未来的行为取向，甚至了解如何校正其错误。

项目挑战

XAI项目旨在解决3个相互关联的研发挑战：一是如何生成更多模型；二是如何设计解释界面；三是如何理解对有效解释的心理需求。为应对第一个挑战，项目寻求开发一些机器学习技术，以生成可解释的模型。对于第二个挑战，项目寻求集成最先进的人机交互（HCI）技术，包括生成关于有效解释的新原则、策略及技术。在第三个挑战方面，项目计划总结、扩展和应用关于解释的当前心理学理论。