核心提示：一直训练机器人之间相互谈判的研究人员发现这些机器人偏离了原来的设定，开始用非人类语言进行交流。这两天，一则机器人发明了自己的语言的新闻刷爆国外社交网络。《每日电讯报》、《都市地铁报》、《独立报》、《镜报》等各大媒体都“freak out”了…… 大致就是，Facebook研发的人工智能发明了自己的语言，程序员恐慌了，赶紧关闭了机器。 具体是怎么回事呢？ 其实今年六月，《大西洋月刊》（The Atlantic）就发表了一篇文章： 人工智能发明出自己的非人类语言 文章称： Facebook人工智能实验室最近发生了一些匪夷所思的事情。一直训练机器人之间相互谈判的研究人员发现这些机器人偏离了原来的设定，开始用非人类语言进行交流。 尽管这些文字看起来好像是在胡言乱语，而且机器人之间似乎并没有真正达成某些协议，但诡异的是，Facebook 的数据显示，这样的对话有时仍然能够使机器人之间成功达成谈判。 看到这里，是不是觉得细思恐极，并想起了《终结者》（The Terminator），然后抖了三抖...... 这两天，反射弧更长的几家媒体突然缓过劲来，一窝蜂报道起这起“诡异”事件。 《每日电讯报》（The Telegraph）： Facebook人工智能研究室今年早些时候建了一个聊天机器人，目的是学习如何模仿人类达成交易和物品交换的协议。 然而，当社交网络把两个名叫Alice和Bob的机器人配对起来交换物品时，他们开始自己发明出一种怪异的交流方式。 这就是Alice和Bob那段让研究者摸不着头脑“天书” ↓↓ 研究人员观测到的机器人“Alice”与“Bob”之间的“交流” Bob: i can i i everything else . . . . . . . Alice: balls have zero to me to me to me to me to me to me to me to me to Bob: you i everything else . . . . . . . . . Alice: balls have a ball to me to me to me to me to me to me to me Bob: i i can i i i everything else . . . . . . Alice: balls have a ball to me to me to me to me to me to me to me 确实看起来很creepy啊有木有…… 更令人吃惊的是，这些聊天机器人甚至会使用谈判技巧，《大西洋月刊》称： 这些机器人还是相当老练的谈判者——他们甚至会使用策略，如假装自己对某个无价值的物品特别感兴趣，然后再通过放弃该物品进行“妥协”。 这惊悚程度已经直逼科幻片了…… 于是，这些媒体说，Facebook出于对人工智能可能会“失控”的恐慌，不得不关闭了相关研究项目。 在《福布斯》（Forbes）网站刊登的文章中，作者忧心忡忡地说： 我们整个世界都是相连的。任何一个人工智能也终将认识到这一点，并找到如何同其他人工智能系统联系合作的方法。 也许人工智能会认为人类是威胁，或者人类的存在是对资源的浪费——这个论断纯粹从逻辑角度讲似乎非常合理。 其实，上周，Facebook首席执行官马克·扎克伯格（Mark Zuckerberg）和特斯拉首席执行官伊隆·马斯克（Elon Musk）正因为人工智能吵得不可开交。  马克·扎克伯格（左）和伊隆·马斯克（右） 当时，马斯克站在人工智能的反方，对其发展表示非常担忧，称随着机器越来越聪明，它们会掌控一切（hold our very existence in their hands）。 而扎克伯格则站在正方，对人工智能的前景表示非常看好： 扎克伯格称其对人工智能表示“非常乐观”，他认为在未来的5-10年内，人工智能将有助于人类生活方方面面的提升。他表示，包括马斯克等反对者的“末日论”是“不负责任的”。 而现在，自家人工智能机器人都开始“自说自话”了，难道，扎克伯格就这样被打脸了吗？ 并没有！ 在炒了一番“人工智能机器人开始说人类听不懂的语言”之后，各大媒体和科技类博客开始辟谣…… 英国广播公司（BBC）：“骇人听闻的脸书人工智能”故事迷惑媒体 科技博客Gozmodo：不不不，脸书没有恐慌，也没关停聪明到有些危险的机器人 美国全国广播公司财经频道（CNBC）：脸书人工智能研究员斥责对智能机器人实验的报道是“不负责任的”。
《连线杂志》：不，脸书的聊天机器人不会颠覆世界的。 所以，这难道是一场乌龙？听双语君（微信ID：Chinadaily_Mobile）给你讲个究竟。 根据知名科技博客Gizmodo的报道，脸书目前是想要开发一个沟通软件。 相信Siri一类的聊天软件大家都知道，脸书的计划就是差不多的道理，让机器人带着“目的”和人或机器人谈判。 设计这两个机器人是为了检验这样一种可能性：对话机器人可以带着不同的目的，与其他机器人或人进行完整的谈判，并且达成共识。
脸书研究人员首先训练机器人去分研究员给定的东西。 比如说，让机器人分几个球球、几个帽子，看机器人怎么跟另一方谈判，达成双方都同意的结果： 机器人们互相交流去分给定的东西（比如用户界面上的书、帽子、球），以达成双方都认可的分法。 训练方式如下图，研究人员设定了书，帽子和球三样东西，并且设定了不同的权重，权重越大，表示越重要，机器人越应该想法留住它。 从动图中的测试结果来看，机器人看起来“智商在线”。 它拒绝了实验者要帽子的请求，而主动要给出书本，因为帽子的权重可是“7”，而书本的权重是“0”。 所以说这项实验实际是非常成功的。脸书的人工智能研究员也表示，这项实验证明，脸书研发的人工智能机器人不仅能说英语，还能智能地思考说什么。 于是后来，研究员们让两个人工智能机器人开始对话。但他们发现设定上出了点问题： 程序员意识到，他们犯了个错误，他们没有激励聊天机器人用人类理解的英语进行沟通。 “激励”简单来说就是告诉机器人，这样做的分数更高，因此，没有设定这样的激励，机器人说出这些“脱线”的英语也就不奇怪了。 虽然看起来非常诡异，但是这其实并没有什么特别的意义。 我们再回头来看那段看似诡异的对话……
Bob:i can i i everything else . . . . . . . 我能我我所有其他东西…… Alice:balls have zero to me to me to me to me to me to me to me to me to 球有0给我给我给我给我给我给我给我给…… Bob:you i everything else . . . . . . . . . 你我所有其他东西…… Alice:balls have a ball to me to me to me to me to me to me to me 球有一个球球给我给我给我给我给我给我…… Bob:i i can i i i everything else . . . . . . 我我能我我我所有其他东西…… Alice:balls have a ball to me to me to me to me to me to me to me 球有一个球给我给我给我给我给我给我…… 这样看来，他们根本就没有创造什么新词，还是“你”、“我”、“球”……不过是语法有点错乱。 其实他们就是在争一个球嘛……
而且，脸书这一项目只是为了研究，而非面向大众。后来系统确实被关停，但却并不是因为可能带来的威胁。 脸书的这一系统是用来研究，并不是面向大众的应用。后来项目被关停，是因为团队对研究不感兴趣，而不是因为他们偶然发现系统对人类造成威胁。 实际上，这项智能机器人的开发非常困难。脸书即时通讯“Messenger”的研究中，机器人无法正确回应人类70%的诉求。 因此，目前看来，是媒体们虚惊一场了。 好了，今天的新闻有没有让你脑洞大开，想不想看几部人工智能相关的电影？ 其实，这类的文学、影视作品一直层出不穷，有把AI描绘成人类文明毁灭者的，也有展现AI智慧、温情，与人类和平共处的。 下面，双语君就推荐几部精彩的。 机器管家 Bicentennial Man (1999)
▌简介 电影围绕着型号为NDR的机器人安德鲁的进化展开，讲述了他来到马丁家并和马丁家庭三代人相处的故事。安德鲁对自己在情感和创造力方面天赋的发现、成为艺术家和发明家的过程，以及他为自己的人类身份能获得认可所做的斗争，是贯穿电影始末的主线。 我，机器人 I, Robot (2004)
▌简介 2035年，芝加哥警探戴尔·史普纳前往调查一起自杀案，受害者正是在人工智能领域的顶尖科学家，阿尔弗莱德·蓝宁博士。 由于不相信博士是自杀而死，史普纳展开了一系列调查并发现了美国机器人研究中心的秘密和真正杀死博士的凶手的阴谋。 然而史普纳不知道的是，他的调查将指向一个对人类更大的威胁。 她 Her (2013)
▌简介 生性敏感的信件撰写人西奥多刚刚结束了婚姻。孤独之下，他购买了一款人工智能操作系统，该系统承诺可以提供给西奥多所需的一切。 萨曼莎作为系统声音，不仅帮助西奥多处理日常琐事，还成为了他的朋友。他们的亲密相处让二人之间迸发出了爱情的火花，并展开了一段人类与机器之间的不同寻常的恋爱。 机械姬 Ex Machina (2015)
▌简介 迦勒是某知名互联网企业的程序员，由于赢得公司一项幸运大奖而被邀请在老板的私人别墅中度过周末。 当他到达的时候，迦勒才得知他被选为图灵测试中的人类选手， 用于测定一个美女机器人艾娃的能力和意识。 然而，迦勒很快意识到艾娃的自我意识和欺骗性超乎想象。 你觉得“AI颠覆人类世界”，是科幻小说家不切实际的杞人忧天，还是会一语成谶的末日预言？ |
|
|
