李杉 编译整理 量子位 报道 | 公众号 QbitAI Facebook人工智能研究实验室里,最近出现了一些神奇的对话。比如说:
△ 现场就是这个样子的 不要怀疑自己的英语水平,起码你认识每一个词。 至于整句话是什么意思……Facebook那些常年生活在美国的研究人员们也看不懂。 这些对话,是在他们教AI进行协商的过程中,两个AI之间发生的。这是两个AI在谈判啊! 负责训练AI的研究人员说,眼看着机器自己聊着聊着就“不说人话”了…… 为了准确了解这些AI在说什么,研究人员不得不调整了模型,限制他们只能以人类可以理解的方式进行交流。 当然,强行让AI说人话,也是为了他们最终能派上实际用场:和Facebook用户沟通。 有人可能觉得,限制他们干什么啊,AI发明自己的语言很酷啊! 可是作为人类,不觉得这有点恐怖么…… 嫌不够恐怖的再看一段:
这些内容不仅看起来毫无意义,而且似乎根本没有在谈判。Alice基本在重复自己说过的话,并没有对最初的立场做出让步。 但奇怪的是,Facebook的数据表明,这样的对话仍然让AI最终成功完成了谈判。 如果你还是觉得不恐怖,可能是因为,你有着和量子位一样的疑问:这堆bla bla bla也算发明了语言? 《大西洋月刊》今天发表的一篇文章说,要思考这个问题,可以回想一下cryptophasia,也就是一对双胞胎用只有他们自己能理解的秘密语言展开沟通的现象。 这段2011红遍全球网络的视频你可能看过,当时有两个刚学会走路的双胞胎用我们完全无法理解的语言“相互沟通”。 关于双胞胎之间的这种沟通究竟是语言还是玩耍,目前仍然存在争论。很多语言学家认为,YouTube上的那对双胞胎可能是在社交,但未必表达了任何意义。 但Facebook的AI,似乎融入了更多语言元素。 其他人工智能研究人员也表示,曾经观察到机器可以发展自己的语言,包括拥有拟序结构的语言,而且可以定义词汇和句法。 但按照人类的标准来看,这些语言未必总有实际意义。 今年早些时候,非盈利AI研究机构OpenAI的计算机科学家在arXiv上发的一篇论文“Emergence of Grounded Compositional Language in Multi-Agent Populations”中,就阐述了AI如何学会使用抽象语言相互沟通。 论文地址:https:///pdf/1703.04908.pdf 在语言沟通不可用的情况下,这些AI智能体还会转向非口头沟通,相当于人类的手势动作。 不过,AI不需要通过实质性的动作来完成非口头沟通,只需要利用视觉感应形态来实现。 最近一篇由乔治亚理工学院、卡内基梅隆大学、弗吉尼亚理工大学的研究人员共同发表的论文“Learning Cooperative Visual Dialog Agents with Deep Reinforcement Learning”也表明,两个AI可以通过讨论和分配颜色和形状值来发明自己的通信协议。 论文地址:https:///abs/1703.06585 换句话说,研究人员认为他们目睹了“在没有人类监督的情况下自动出现的基础语言和沟通”。 这种研究工作的意义重大。不仅可以了解AI之间如何沟通,还有可能揭开人类句法和行文结构最初的形成方式。 但是,我们还是要回到这个问题上来:这些AI创造的是真的语言吗? 《大西洋月刊》带着这个问题,去问了宾夕法尼亚大学语言学教授Mark Liberman。 Liberman说:“我们必须首先承认,‘语言’这个词如何使用并不是语言学家说了算,但语言学家对于人类语言的特性以及这种自然类的边界显然有自己的观点和看法。” 所以,Facebook的AI是否创造了自己的语言,取决于我们所谓的“语言”究竟是何含义。 例如,语言学家往往认为,符号语言和方言属于真正的语言——而不仅仅是真正语言的近似物,而“肢体语言”和Python及JavaScript这样的计算机语言并非真正的语言,尽管我们也会用“语言”来称呼它们。 所以,Liberman的问题就变成了:Facebook AI的语言——我们称之为Facebotlish——是否会成为一种新型而持久的语言,或者说,未来的英语? “尽管没有足够的信息可以判断,但答案恐怕是否定的。”他说,“首先,它完全基于文本,而人类语言的本质是口头和手势表达,文本只是人为附加的。” 从更大的角度来看,Facebook聊天机器人的智能程度还远未达到人类的水平。 “现在看来,1970年代的‘专家系统’风格的人工智能程序最多只能算古董,就像17世纪用发条驱动的自动化装置一样。”Liberman说,“几乎可以肯定的是,几十年之后,如今的机器学习人工智能也将变成同样的古董。” Liberman表示,如今已经很容易通过各种算法建立一个虚拟的世界,“就像建造一套会弹琴的发条装置一样。” 在接受《大西洋月刊》就这个问题的采访之后,Liberman在语言学博客Language Log上强烈推荐了这篇报道,还贴出了完整的采访内容。 最后关于Facebook的评论,没有出现在大西洋月刊的文章中: Facebook的聊天机器人,就是一个“用各种算法建立的虚拟世界”。 是不是总有一天会有一些自组织的系统,开发出一个属于自己的系统间交流方式,并且不被人类的程序员们重启打断,自己进化几十年甚至几百年? 应该是可以的。 但是,Facebook的聊天机器人在引领这种潮流吗? Liberman对此持怀疑态度。 相关链接Facebook AI意外发明语言的那个研究: Facebook让AI学会谈判协商,能通过“说谎”达到目的 《大西洋月刊》报道: https://www./technology/archive/2017/06/what-an-ais-non-human-language-actually-looks-like/530934/?utm_source=feed Language Log博文: http://languagelog.ldc./nll/?p=33355 【完】 一则通知 量子位正在组建自动驾驶技术群,面向研究自动驾驶相关领域的在校学生或一线工程师。欢迎大家加量子位微信(qbitbot),备注“自动驾驶”申请加入哈~ 招聘 量子位正在招募编辑记者、运营、产品等岗位,工作地点在北京中关村。相关细节,请在公众号对话界面,回复:“招聘”。 |
|