|
因-果 价值中国专访 人工智能科学家、图灵奖得主Judea Pearl Judea Pearl, 人工智能专家，2011美国计算机协会(ACM)图灵奖获得者，美国国家工程院院士，美国加州大学洛杉矶分校计算机科学学院教授、认知系统实验室主任。 他在其著作《Causality: Models, Reasoning, and Inference》中创立了因果推理演算法，为他赢得了2011年英国伦敦经济和政治科学学院的LAKATO奖，评语中说“他为科学哲学作出了重大的杰出贡献”。 他的研究影响了自然语言处理、语音处理、计算机视觉、机器人、计算生物学与错误控制编码等领域。同样重要的是Pearl的因果推理工作，他发现了基于图形计算的介入，能够使人们从行为与观察的综合因素中得到因果关系。这项工作已经促使计算机科学与人工智能领域发生变革，对其他诸如流行病学、经济学、哲学、心理学、社会学、统计学等相关学科也有较大影响。 ~~~~~~~~~~~~~~~~~~~~~ 【关于图灵奖】被誉为“计算领域诺贝尔奖”的图灵奖，今年颁给了美国加州大学洛杉矶分校（UCLA）的Judea Pearl教授，奖励他在人工智能领域的基础性贡献，他提出概率和因果性推理演算法，彻底改变了人工智能最初基于规则和逻辑的方向。 图灵奖以计算机界传奇人物阿兰·图灵(Alan Turing)的名字命名，自1966年创立以来一直用于奖励在计算机科学领域取得成就的人。目前谷歌和英特尔都在资助图灵奖，今年的奖金额为25万美元。 (一) 因果推断，是人工智能的必由之路 2011年图灵奖得主，贝叶斯网络之父Judea Pearl认为现在人工智能的发展进入的新的瓶颈期，各种新的成果不过本质上不过是重复简单的“曲线拟合”工作。Pearl 认为人们应该更关注人工智能中的因果（Cause and Effect）推断，这可能是实现真正智能机器的必由之路。 如今人工智能的强大力量在很多方面要归功于贝叶斯网络之父Judea Pearl。早在二十世纪八十年代，他领导的研究就能使机器能根据概率推理工作。在他的最新著作“《The Book of Why: The New Science of Cause and Effect》”中，他认为：由于人们对智能的真正含义不完全理解，人工智能的发展正受到前所未有的新的阻碍。 三十年前，人工智能研究的主要挑战是将潜在原因与一系列人们所观察到的现象联系起来。Pearl发现贝叶斯网络可以做到这一点。贝叶斯网络可以让机器很容易的推理出，一个从非洲回来的有发烧和身体酸痛症状的患者可能是得了疟疾。凭借这项工作，在2011年，Pearl赢得了计算机科学的最高荣誉图灵奖。 但是，正如Pearl所预见，人工智能领域陷入了概率关联的困境。如今，头条新闻每天都在不停的报道机器学习和神经网络的最新突破，比如计算机可以在一些游戏中战胜人类，也可以驾驶汽车。 面对这些看似喜人的成果，Pearl却高兴不起来，他认为今天人工智能领域的技术水平只不过是上一代机器已有功能的增强版，也就是在大量数据中发现隐藏的规律性。最近Pearl指出： “几乎所有的深度学习突破性成果本质上来说都只是些曲线拟合罢了”。 在他的新书中，现年81岁的Pearl详细阐述了智能机器如何真正思考的愿景。他认为，关键在于用因果推理来取代简单推理。机器不仅需要把发热和疟疾联系起来，而且需要能够推断疟疾为什么能引起发烧。一旦有了因果推理能力，机器就有可能查询某种干预而引起的因果关系如何改变。 Pearl将其视为科学思想的基石。Pearl还提出了一种形式化的语言，这种语言使得以“全新的贝叶斯框架驱动机器能够以概率的方式思考”成为可能。 Pearl期望因果推理可以为机器提供人类智能。他解释说，他们可以更有效地与人类沟通，甚至可以实现具有自由意志和邪恶能力的道德实体的地位。Quanta 杂志采访了他。这些对话的编辑和精简版本如下。 为什么你的新书叫做“The Book of Why”？ 它是对过去25年来我一直在做的关于因果关系，它在一个人生活中的含义，它的应用以及我们如何提出对固有因果问题的答案的工作的总结。奇怪的是，这些问题已经被科学抛弃了。所以我在这里弥补了对科学的忽视。 这是一个戏剧性的事情，科学已经放弃了因果关系。这不正是科学的全部内容吗？ 当然，但是在科学方程式中你看不到这种高尚的愿望。代数是对称的：如果X告诉我们有关Y的信息，那么Y就会告诉我们有关X的信息。但是，没有办法用数学写出一个简单的事实 - 例如，即将到来的暴风雨导致晴雨表下降，但反过来，晴雨表下降并不会导致暴风雨。 数学还没有开发出非对称语言来捕捉我们的理解，即如果X引起Y并不意味着Y引起X。 但是科学更宽容：在我们缺乏对不对称关系的的描述语言时，科学鼓励我们创造一个。这就是用上数学的地方。对于我来说，看到简单的因果演算解决了被认为是不明确或无法解决的问题，兴奋不已。 几十年前，你通过让机器用概率方法推理在AI界成名。解释当时人工智能发生了什么事。20世纪80年代初出现的问题具有预测性或诊断性。医生会从患者身上看到一系列症状，并提出患者患有疟疾或其他疾病的可能性。我们希望自动系统和专家系统能够替代专业人员 - 无论是医生还是矿物探险家，还是其他类型的付费专家。所以在那时我提出用概率实现这个想法。 不幸的是，标准概率计算需要指数空间和时间。我想出了一个称为贝叶斯网络的方案，它只需多项式时间，并且非常透明。 然而，在你的新书中，你将自己描述为今天在AI社区中背道而驰。为什么？只要我们的机器能够以不确定的方式推理，我就会去追求更具挑战性的任务：推理和因果关系。我的许多AI同事在不确定性做工作。有些研究圈子继续在诊断方面做工作，而忽略因果因素。他们想要的只是预测好，诊断良好。 我可以给你一个例子。我们今天看到的所有机器学习工作都是在诊断模式下进行的 - 比如说将对象标记为“猫”或“老虎”。他们不关心干预;他们只是想识别一个对象并预测它将如何及时发展。 当我开发出用于预测和诊断的强大工具时，已经知道这只是人类智慧的小小一角。如果我们想要机器推理干预（“如果我们禁止香烟怎么办？”）和内省（“如果我读完了高中怎么办？”），我们必须引用因果模型。关联关系是不够的 - 这是一个数学事实，而不是意见。
人们都对人工智能未来巨大的潜力异常兴奋，你怎么看？ 当我深入研究深度学习所做的事情时，我发现他们都被困在了简单连接的层次上。曲线拟合（Curve fitting）这个词听起来像是一种不和谐，也就是说，深度学习取得的所有巨大成就再某种程度上都不过是对数据的曲线拟合而已。 从数学层次的角度来看，不管你如何巧妙地操作数据，以及你在操作数据时读取的内容，它仍然是一个曲线拟合的训练过程，尽管它看起来比较复杂。 你谈论曲线拟合的方式，好像你对现在的机器学习并不太满意 不，我对机器学习非常满意，因为没想到这么多的问题可以用纯曲线拟合的方式就能解决。但我想问的是未来——下一步呢？你能让一个机器人科学家来规划一个实验，就能为悬而未决的科学问题找到新的答案吗？我们还希望与一个有意义的机器进行一些沟通，有意义表示能够匹配我们的直觉。 如果你剥夺了机器人对因果等的直觉，你就永远无法有意义地进行交流。机器人不能说“我本应该做得更好”。因此，我们失去了一个重要的沟通渠道。
拥有和我们一样有因果判断直觉机器的前景是什么？ 我们必须使机器具备环境模型。如果机器不具备现实模型，那么你不能指望它在现实环境中有智能行为。首先，人类编程的现实概念模型可能在 10 年内出现。
下一步是机器将假设此类模型属于它们自己，并基于实验验证和修改模型。这就是科学中一直发生的事情：例如人类最初认同地心说，后来发现了日心说。
机器人也是一样，它们将彼此沟通，将这个假设的世界转换成隐喻模型（metaphorical model）。
您是何时与当前研究AI的人分享这些观点的？他们有什么反应？ AI 目前是分裂的。首先，一部分人陶醉于机器学习、深度学习和神经网络的成功之中。他们不理解我的观点，只想继续进行曲线拟合。但是和在统计学习范畴以外研究 AI 的人们谈论这些时，他们立刻可以理解。我读了一些近两个月关于机器学习局限性的论文。
您是说出现了一种抛弃机器学习的趋势吗？
不是趋势，而是一个严肃的内省过程，涉及这些问题： 我们去向何处？下一步是什么？
这是我最不想问您的问题 我很高兴你没有问我关于自由意志的问题。
那么您怎么认为自由意志呢？ 我们将开发出具备自由意志的机器人，绝对会。 我们必须理解如何编程机器人，以及我们能从中得到什么。由于某种原因，就进化方面而言这种自由意志在计算层面也将是需要的。
以何种方式？ 你具备自由意志，进化已经赋予我们这种感觉。很显然，它提供了一些计算功能。
机器人具备自由意志时会有明显的迹象吗？ 我认为第一个迹象将是机器人开始反事实地彼此沟通，如「你应该做得更好」。如果一组踢足球的机器人开始用这种语言沟通，那么我们将知道它们具备了自由意志。「你应该传球给我，我刚才一直在等，但你没有把球传给我！」「你应该……」（You should have）意味着你本应该做什么，但是没做。因此第一个征兆是沟通，第二个是踢出更好的足球。
既然您提到了自由意志，我想我应该问您关于作恶能力的问题。我们通常认为作恶的能力是选择的能力。什么是恶呢？ 人们认为恶是贪婪或不满取代了社会的所有规范。例如，某人具备一个类似会说「你饿了，因此你可以做一些事来满足自己的贪欲或发泄自己的不满。」的软件模块。但是你具备其他软件模块，可以指导自己遵循社会规范。其中一个叫做同理心（compassion）。当你抬高自己的贪欲，超过了社会通用规范，那么这就是邪恶。
那么我们如何知道AI何时掌握作恶能力？ 当机器人一直忽略一些软件模块时，这对我们来说就是一个明显的迹象。还有当机器人遵循一部分软件模块的建议而不听另外模块的建议时，当机器人忽略那些维持行为规范的模块的建议时，当机器人停止遵循这些模块时。 （二） 价值中国专访图灵奖得主Judea Pearl 价值中国：Judea，您在很多领域都有建树，且影响遍及全球。很高兴您能接受采访，分享您的智慧与经验。 Judea Pearl：很高兴能有机会与大家交流。 价值中国：您何时得知自己获得2011年度ACM图灵奖？图灵奖堪称计算机领域的诺贝尔奖。您获奖的心情怎样？您的同事与家人呢？ Judea Pearl：当我得知这个消息的时候简直难以置信，因为我主要的研究领域并不是计算机科学，同事和家人都为我高兴，因此，我的心情是复杂的，有激动也有惊讶，很高兴图灵奖评奖委员会肯定我在人工智能与计算机科学外围领域的工作。我女儿跟我开玩笑说我出名了，其实，我的生活还是一如既往的平凡。 价值中国：在以色列的教育经历对您毕生的成就有什么影响？ Judea Pearl：我认为自己所受的教育是独一无二的，我的老师都是来自德国等地的精英，我从他们的教诲中受益匪浅，我从小就接触很多挑战性的科学问题。我们的课程从不做笔记，只是大家在一起讨论解决问题，那个时候我还没有意识到这种教育方式的优势。 此外，我受的教育建立在民族构建的独特文化之上，整个社会处在百废待兴的状态，这造就了自由教育的形成。记得我的数学老师总鼓励我们成为对数学研究有所贡献的人。 很幸运大学时代也遇到了很好的老师，我们与老师的交流很多，老师要求我们课堂上就要真正理解课程的内容。这与我在UCLA（加州大学洛彬矶分校）的感受不一样，这里的学生可能更倾向于课后自学，而我们在课上就要了解所有内容，不懂的要及时问老师。 我真的很幸运，因为上世纪50年代的以色列经济社会情况都不是很好，但政府对教育的投入却没有因此减少，这归功于当时领导人的高瞻远瞩，我们都从中受益。总之，我总是提醒自己我能得到今天的一切，大部分是因为我所受的教育以及以色列民族构建的精神文化。 价值中国：您刚谈到您上大学的时候，以色列政府没有因为财政困难而消减教育经费，课堂上却充满了激情和互动。这与美国目前的教育体系相较有何不同？ Judea Pearl：我认为美国现在的教育体系应该创新。教育者应该把数学与科学的教育，放在发现真理的历史大背景中，而不是只按照学科问题的逻辑来分层次，而应该让学生了解世界的科学大图景，了解这些知识是怎么被发现的。 这会让学生感到科学不是一门枯燥的学问，而是一门充满人性的学问。学生可以了解到人类的智慧怎样一步步揭示自然的奥秘，学生将成为一个侦探。当然，教育经费也很重要。不过，即使没有太多经费，优秀的老师都是用心的，用心在教育学术。 价值中国：您之前曾在RCA（美国无线电公司）就职，是什么动机让您转入学术界，而获得今天的成就？ Judea Pearl：RCA位于新泽西州，这里科技发达，几乎每个人都清楚电脑科技的未来，他们利用电脑科技探索自然现象以获得竞争力。我的工作主要是研究超导存储设备，那时是一段难忘的日子。 不过后来因为半导体在存储设备中的广泛应用，我们的工作最终停止。我必须找到一份工作，于是转入学术界。因为当时企业界的人有点轻视学术界，企业界的人很容易转向学术界发展，最终我就投入现在的研究工作中。 价值中国：您如何在众多领域都取得成就呢？诸如机器推理、机器人、自然语言处理、计算机视觉、经济计量学、认知科学、统计学、哲学、心理学、流行病学、社会学等等。 Judea Pearl：你刚才提到那么多领域，很容易让人产生错误的印象，就是我是那么多领域的专家。呵呵。事实上，这些领域都有一个共同之处，那就是“不确定性”。它们潜藏于不确定与噪音数据之中，需要有一个滤除噪音、找出真正意义的原则，我的工作与不确定性息息相关。 很长时间以来，我都认为概率是最主要的准则，如果概率很大的话，你能保证会得到一个能够接受的答案，但是很少会有大惊喜。我跟自己说，如果你输入正确的数据，你的答案会像预期的一样。这个应用到计算机，根据期望就可以了解哪种原则是正确的。 价值中国：我想因果关系研究也与哲学密切相关。 Judea Pearl：是的，问题是他们为何以“假设事实”而不是其他方式，来解释因果关系？肯定是假设事实在认知上看起来更加真实，问题更少，更加深入我们的直觉。 价值中国：介绍一下您广泛的研究经历，及其持续的影响与有价值的教训。 Judea Pearl：不管怎样，我可以用三句话总结我的经验，有关人类的推理方式：第一，人们依靠概率推理；第二，人们不按照概率推理，而按照因果关系推理；第三，人们不按照因果关系推理，而按照违反事实的情况思考。 这是对我的研究有持续性影响的三个因素。在规则系统内部，这三个因素本身已经发展成因果关系，从观察与知识方面只能产生一点影响。人们应该从三个层次来看待我的工作影响：概率、因果关系、违反事实的情况。 价值中国：我们都能看到您的工作成绩及其背后的智慧，这不仅成为您生活的转折点，更是您研究领域的转折点。 Judea Pearl：这对我的研究领域确实有影响，这给予人工智能领域的研究者以自信，使他们能够将知识转换成特定的符号，赋予知识特定的意义，并且对相关领域都产生影响，特别是在机器人研发领域。 价值中国：您认为机器人可自由工作，那么您曾利用机器人参与过什么研究？ Judea Pearl：我们可以看到机器人惊人的下棋技能，它利用的就是因果假设原理，它可以根据对手的反应选择最佳的方式回应。当你问到“机器人是否能够通过自由意志工作”这个问题，有人就会争论说每一个下棋机器都有自由意志，否则它不会自己选择怎样走下一步棋。这个表面现象蕴涵着非常深刻的哲学问题，在这种特定条件下，你可以说机器有自由意志。 其实，许多科学家都认为自由意志是一种幻想，人类是否有自由意识都是一个值得争论的哲学问题。更没有人会认为机器人有自由意志。问题是我们能够以自由意志来利用机器人吗？这是一个技术问题。 如果一个机器人能够知道为什么要做某种动作的话，它才具有自由意志。比如，机器人拥有交流功能，一个机器人告知令一个机器人哪里做错了，有了这样的交流功能，它就能够自由的发布命令。 价值中国：很有趣的观点，这是您目前的研究重点吗？这个研究及应用的成果是什么？ Judea Pearl：我不能确定，我只是希望这可以引导人与机器之间更加友好的对话，这也会促使机器之间更加有效的交流，在社会福利、人际交流等方面。 这些观念会促使我们有所行动，如果我们可以将他们转换成机器社区，我们在与机器交流方面将是一个很大的成就。我们人类是社交动物，与机器交流就要理解社会变化，这个假设在社交方面是基本的基石。 价值中国：您在研究中面临的最大挑战是什么，从这些挑战中会得到哪些有价值的教训？ Judea Pearl：我遇到最大的挑战就是把一种（科学）语言转换为另一种，从概率到因果关系再到假设。如果要我教给年轻朋友我的经验，我会鼓励他们拥有一种转换语言的弹性，这是在研究工作中最难克服的一点，我希望以后的教育能够解决这个问题。 价值中国：您怎样培养这种转换语言的能力？ Judea Pearl：我认为可以通过不断的论证，你不能在一种语言内部解决一系列问题，你可以很容易在另一种语言中解决，论证转换的优点。第一种、第二种语言不合适，第三种也许就是最佳答案，这是我在研究中的最大的乐趣，用这种方法不行就尝试另外一种。 价值中国：可是很可能多数人都有一种共同的想法，就是拒绝改变，您认为这是什么原因？ Judea Pearl：有很多因素，我关注的是语言间的转换。语言是教条主义最大的保护者与宣传者，人们从小就学习语言，很难改变，这种情况同样发生在科学领域，即使有时会发现自己的语言不能准确表达真正的含义。研究表明，团体的教育、周围的政治环境对人都有影响，但最主要的还是转换语言的自由。 价值中国：您能谈谈您研究领域中其它的争论吗？ Judea Pearl：目前，统计学领域有一个很大的争论：假设推理是否有用。你不能预测假设，不能反驳假设陈述，因为这是关于未发生事情的内省，这些是哲学性问题，这个争论就是统计学是否应该借助这种语言，因为你不能检验没有意义的事情。 价值中国：宗教神话难以表达，观点的隐喻也是另一个有争议的领域，您对此有何评论？ Judea Pearl：许多科学家都对宗教话题很感兴趣，我不相信有人有超能力。但是，在计算机领域，我们将人们的交流翻译为有意义的内容，我发现信徒之间的交流是有意义的，这种交流充满了隐喻，比如做坏事会被惩罚。 这影响人们做善事的观念，长此以往，这会产生很多意义，一个人做坏事，会影响年轻人，继而影响整个社会，最终始作俑者也将自食其果。这给我一种与不同信仰的人交流的力量，我将他们的语言翻译成新的计算机语言。 价值中国：您为许多创新活动奠定过基础性的工作。从您的经验中有什么挑战和问题需要今天的年轻人解决，并激发他们从事计算机行业的兴趣？ Judea Pearl：我建议年轻人应该按照他们的直觉进行研究，按照最初的好奇心来了解自己，我想这应该是很多科学家的想法。首先要了解自己才能具有竞争力，人类许多行为都可以被机器模仿。 价值中国：对于那些对计算机的未来有兴趣而没有教育基础的年轻人来说，您怎样向他们解释概率、因果关系、贝叶斯网络以及假设？ Judea Pearl：这个很简单，几分钟就能解释清楚。世界上很多事情都是不确定的，不过人类可以驾驭它们，问题是计算机怎么管理不确定的事情？这就是概率的工作。学生喜欢一个领域通常就是以前没有翻译成他们理解的语言，而现在要翻译，并且看你的直觉怎样被正式规则扩大，这种扩大对学生（不管是计算机科学领域还是其它领域）都是一种普遍的吸引。 价值中国：何种具体的品质让您能够脱颖而出？ Judea Pearl：我认为有两点，一点是我很懒惰，我不喜欢计算，经常依靠计算机，我喜欢利用机器帮我工作；另一点就是坚持不懈的工作。 价值中国：过去、现在与未来，谁对您产生的影响较大？ Judea Pearl：许多伟大科学家的故事对我的影响都很大，比如伽利略在比萨斜塔的实验。近代科学家我认为是布尔（计算机代数创始人）、仙农（信息论创始人）、以及爱因斯坦。 价值中国：您不断为学术发展做出历史贡献，社会地位也随之高涨。这对您看待世界、社会、产业、学术以及技术的观点有什么影响？ Judea Pearl：这很危险，因为当一个人有了较大的影响力，人们会希望他在任何领域的观点都是正确的、充满智慧的，我要说的是事实并非如此。可能我在计算机相关领域有一些正确的观点，例如呼吁国家提倡统计学教育与科学教育；在社会学领域，我认为媒体歪曲了因果影响关系理论，我能够在这些领域利用专业知识。但是，我很少对不太熟悉领域的问题做出评论。 价值中国：您认为我们今天在哪个领域面临的挑战最大？ Judea Pearl：我认为最大的挑战在教育领域，包括科学教育与社会教育。现在既要教育大家为本国的文明自豪，又要学习他国的长处，教育人们明白“不同”的尊严与“相同”的意义是相当困难、但是很值得敬重的。我所受的教育就是这样，我想这样的教育在下一代会很普遍，也希望它能生机勃勃。 价值中国：最后，请问您对丹尼尔·珀尔（Daniel Pearl）基金会的期望是什么？ Judea Pearl：我们设立这个基金会旨在加强不同文化之间的相互理解，共同抵制仇恨，因为我的孩子Daniel pearl的事情，这个基金会在世界范围内都产生了影响。我们号召人们团结起来做慈善，并且很快得到大家的响应。 基金会主要关注三个方面：新闻业、音乐、对话。我们了也将穆斯林地区记者的活动传播到世界各地，发放新闻奖学金；在世界各地举行珀尔世界音乐月，希望通过音乐增强友谊，促进和平；我们还组织青年活动、讲座与宗教之间的对话，到处旅行，宣传基金会的理念。
“传播知识价值，倡导独立思考！” 微信公号：价值世界 网站名称：价值中国 全站精华搜索: 数百万篇极具价值的经济/商业/金融/文化类文章期待对话。微信公号中，输入您感兴趣的任意“关键字”，可搜索精彩的专家见解！ |
|
|
来自： guoxiongxin > 《待分类》
