“计算的解释鸿沟”的新证据及其哲学反思

“计算的解释鸿沟”的新证据及其哲学反思

赵泽林（华中科技大学哲学系）

转自：科学技术哲学

来源：《自然辩证法通讯》2019年第6期

如涉版权请加编辑微信iwish89联系

哲学园鸣谢

在有关心灵、意识、思维与计算的哲学理论中，所谓“计算的解释鸿沟(the computational explanatory gap)”，是指在用“计算”解释人类心灵、意识、思维现象时，无法用“计算”从根本上说明物质性的低级神经活动是如何产生了精神性的高级意识活动。这一问题在当代的揭示主要源自莱文(Joseph Levine)以“疼痛是C纤维的燃烧”为例的论述。他认为，这个命题在生理学上可能是有效的，但它并不能帮助我们理解“疼痛的感觉”。后来，查默斯(David Chalmers)区分了意识的容易问题(easy problems)与困难问题(hard problem)，将此发展为物理主义的反例，同样认为在意识经验与大脑物理状态之间存在着无法逾越的解释鸿沟。最近几年，瑞杰(James Reggia)等人提出了关于“计算的解释鸿沟”的三个新证据，并将这个命题更加细化为这样的表述：即使我们承认可以用“计算”从整体上来解释心灵、意识、思维的工作原理，但也面临着低层次的神经计算网络是如何可能产生高级认知现象这个鸿沟。本文将通过梳理瑞杰等人关于“计算的解释鸿沟”的三个新证据，追溯“计算”的概念内涵，揭示“计算的解释鸿沟”蕴含的“内部问题”，分析“计算的解释鸿沟”的产生原因及其可能的消解路径。

一、“计算的解释鸿沟”的新证据

最近几年，即使是人工智能领域取得了出人意料的新进展，瑞杰等人也仍然认为，现有人工智能研究并没有提供一个令人满意的人工意识方案，也没有明确的证据表明人工意识最终将成为可能。这是因为，绝大多数研究意识的哲学和科学基础的人，包括那些开发意识的计算机模型的人，都是功能主义者。瑞杰认为，他们把人工机器称为计算机已经意味着一种功能定义：计算机是一种执行机械过程或算法的设备，不管它的大小或它的原材料。这本身就是一种隐喻的表达，而非事实的揭示。迄今为止，我们都只能将一个正在执行程序的计算机硬件的功能状态看作是与大脑具有相似的精神状态。如果从功能主义的视角看现在人工智能进展，那就不是一个“质的飞跃”。因为，如今的人工智能进展并没有克服意识的“困难问题”。“容易的问题是理解意识的信息处理方面：行为的认知控制、信息整合的能力、注意力的集中、以及能力的体现……相比之下，意识的难题是指与意识相关的主观体验。即使科学最终解释了所有容易出现的意识问题的信息处理机制，这也不能解释为什么这些机制或功能在没有主观意识的情况下不会发生，而是伴随着主观经验或规定。换句话说，成功的功能、计算意识与伴随意识而来的主观体验之间存在着解释上的鸿沟。”[1]

机器仍然无法具有主观体验的意识“看起来”确实是“计算的解释鸿沟”的最新证据。当代机器意识的研究策略主要有“自上而下”和“自下而上”两类。前者强调符号对物理现象的表征，后者强调对神经元群模拟的重要性。自上向下的符号方法擅长建模高级认知任务。目标导向的推理、元认知、问题解决、决策制定、理解自然语言等，但它们在模式识别和低水平的运动控制方面的成功要少得多。它们相对成功地捕捉了高层次思辨推理和顺序行为控制的各个方面，这些方面在人身上与有意识的、可报告的认知成分非常相近。自上而下的方法通常也被发现是脆弱的。例如在复杂的上下文语境、小的意外事件或内容的小变化方面，自上而下的方法很难做到客观表征。相比之下，自下而上的神经计算方法的优势和劣势大致相反。它们在学习低水平模式分类的输入任务和低水平控制的输出任务方面非常有效，但在高级认知任务方面却远不如自上而下的方法有效。现有的神经计算系统已经被证明在学习程序性知识方面非常有效，而程序性知识对一个人来说，很大程度上是以一种无意识的方式进行的。与自上向下的符号人工智能方法相比，神经计算方法在外部噪声或存储信息的大量随机变化的情况下不那么脆弱。瑞杰认为，“这两种方法与其说是相互竞争的替代品，不如说是它们各自在情景处理方面的优势互补。这也表明，坚持符号主义的人工智能，无论是自上而下，还是自下而上，都还无法弥合计算上的解释鸿沟。人工智能领域在很大程度上仍然被分成两个对立的阵营，部分是由于计算的解释鸿沟的存在”。([1]，p.162)

“计算的解释鸿沟”的第二个新证据来自于神经科学对意识的研究。查默斯在2000年发表的一篇论文中认为，意识的神经关联是一种最小的神经生物学状态。它的存在足以产生相应的意识状态。这种理解意识的方法确定了几种可能的相关关系，如大脑电活动中广泛存在的40赫兹皮质振荡的特定活动模式、丘脑内氨基核的特定神经结构的激活、全球大脑激活等。然而，尽管有这样的研究和一个多世纪以来大量的神经科学研究，我们对大脑中无意识信息处理的理解与有意识信息处理之间仍然存在很大的差异。考虑无意识的信息处理，比如走路时腿部运动的自动控制机制，或者长期记忆中储存信息的机制。这些机制如今并没有什么神秘之处，因为我们可以识别神经回路并能够合理地解释这些功能的计算。相比之下，对于与意识认知更紧密相关的高层次认知任务，如目标导向的问题解决和理解口语自然语言的意义，我们在神经计算方面相对而言仍很迷惑。尽管我们现在对高级认知和大脑有很多了解，已经有了宏观层面对高级认知功能与脑区和微观层面不同功能区神经回路的理解，但是，我们目前尚不清楚如何将这两种类型的信息结合起来。或者说我们仍不清楚大脑如何将这些高级认知功能映射到现有的低层次神经回路的计算中。在此，我们再一次遇到了“计算的解释鸿沟”。从认知过程到神经计算的映射仍然是如此的不透明。瑞杰认为“这里的关键点是我们神经科学知识中，在宏观和微观信息处理水平之间，存在着关于如何联系这两者的巨大鸿沟，至少在某种程度上，这也是潜在的计算的解释鸿沟的体现。”([1]，p.163)

“计算的解释鸿沟”的第三个新证据来自于认知心理学。瑞杰认为，当我们考虑过去努力明确地区分描述人类意识和无意识认知信息处理的特性时，计算的解释鸿沟也变得明显起来。人类有意识的信息处理被认为是连续的，相对缓慢的，并且很大程度上被限制在一次只处理一个任务，试图同时执行多个需要有意识方向的任务会导致干扰和错误。无意识的信息处理是并行的，相对快速的，并且很容易同时涉及多个任务，此时任务之间的干扰是有限的。有意识的信息处理似乎涉及广泛的全球大脑活动，并且内部是一致的，而无意识的信息处理似乎涉及更多的大脑区域的局部激活，其内部一致性也有所不同。意识信息处理常常与内在言语联系在一起，在操作上被认为是可报告的认知。这里的关键是，心理学家试图明确地描述意识和无意识信息处理之间的差异，但却隐含地，或许是无意地，发现了这种计算的解释鸿沟。他们所揭示的无意识信息处理具有并行、高效、模块化、非可移植性等特性，与神经计算匹配得相当好。不可报告性与神经计算模型的性质非常吻合。但是，即使神经网络学会了非常成功地执行一项任务，该网络学到的东西对外部观察者来说仍是很大程度上不透明的，通常需要付出很大的努力才能完成象征性地决定或表达。相比之下，与有意识的信息处理串行处理方式相关的属性，如相对缓慢、整体、可移植性，则更好地匹配了符号的自上向下算法，却与神经计算的特性不太匹配。瑞杰认为，“在这种背景下，意识认知和支持它的基础神经计算之间无法解释的鸿沟是显而易见的。这是特别值得注意的，因为，认知心理学识别认知的意识和无意识方面的差异性，并不是一个主要的研究方向，而还只是无意中揭示了计算的解释鸿沟的客观存在。”([1]，p.165)

据此，来自机器意识、神经科学、认知心理学的研究似乎都证明了一个事实，即哲学上提出的“计算的解释鸿沟”问题不仅没有消失，相反正在变得越来越明显。这就如查默斯在上世纪90年代提出的意识的“困难问题”一样，当我们试图将意识、心理现象还原为物理解释时，始终是忽略了一些“东西”。在查默斯那里，这种还原忽略的是“主观的经验”。现在的问题是，如果我们承认心灵、意识现象的存在，承认心灵、意识就是“计算”，我们却又无法用计算来“造出”拥有人工意识、人工心灵的机器。这就是一个悖论。这个悖论产生的真实原因就在于，我们依然无法解释这些“主观的经验”如何可能产生，无法弥补心灵、意识、思维现象的计算解释中的“鸿沟”。考虑到作为机器模拟的对象的大脑结构当然是相当复杂的，自上向下的人工智能在建模高级认知方面，相对于神经计算方法来说在定性上可能是一种成功，但仅凭这种复杂性依然不太可能解释心灵、意识现象的全部。瑞杰认为，“在当代哲学思想中占主导地位的那些容易和困难问题，极有可能最终会被证明是完全相反的。换句话说，计算的解释鸿沟实际上是更基本的、更难解决的问题。”([1]，p.176)

二、“计算的解释鸿沟”的“内部问题”

斯洛曼所说的“复杂的计算过程”实际上是指计算的“内部过程”。这种“计算过程”的充分揭示，既是揭示人的心灵、意识、思维奥秘的必要，也是制造人工计算系统的前提。如果只能在功能体现上理解“计算”，只是根据输入输出，而不去揭示输入和输出的内在关联，就会得出这样的结论，即我们可以根据功能性的结果，把人的心灵、意识理解为一种计算，自然也可以把能够完成计算的人工计算系统理解为另外一种心灵。如此，功能主义者自然会滑入泛灵论的窠臼。另一方面，如果人的心灵、意识、思维过程确实是“计算”，我们至今还没有揭示自然计算系统“计算过程”的奥秘。当然，我们也就无法制造出能够完成如人一样执行“计算过程”的人工计算系统。这就像塞尔(John Searle)所提出的“中文屋(chinese room)”一样，仅凭“计算结果”来理解并不是充分的。科普兰(Jack Copeland)认为，中文屋论证的最大贡献在于启发我们进一步去思考过去对计算的理解中，我们所忽视的计算功能体现的内部过程。科普兰把这个“计算过程”理解为一种“算法”。他认为，“计算就是执行一个算法。更准确地说，一个设备或器官能够计算，是说存在某种特定类型的建模关系和一个算法的正式规范和支持架构”[4]。要理解这个过程，就涉及到我们对“计算”的“条件追溯”。

当前，我们并不知道自然计算系统的心灵、意识、思维是否真的就是“计算”。但是，我们在人工计算系统中却发现，一个人工计算系统至少包括硬件、符号表征和语法三个基本部分。一个现有的人工计算系统是如何完成了计算工作呢？表征起到了关键性的作用。迄今为止的人工计算系统可能具有的表征属性主要有两种方式：一种是由于它自身的活动使之具有表征属性，另一种是因为外在其它因素将表征属性强加于它。人类的思维具有表征属性，至少部分是由于它自身的活动。相反，书中的文字完全是通过它们与我们的语言习惯的联系来表征的。这本书对构成词的表征属性并没有贡献。豪格兰德(John Haugeland)、塞尔等哲学家通常用原始的意向性(original intentionality)和派生的意向性(derived intentionality)来区分这两种表征的不同。[5]但是，贝奇(Tyler Burge)认为，“即使我们承认人的大脑是表征的，我们也不能认为人的大脑自己就能够完成应有的所有表征活动”[6]。普特南(Hilary Putnam)认为，对“计算过程”的“内部解释并是不充分的”，因为外在的物质和社会环境，在决定精神状态的表征属性方面同样起着很大的作用。[7]这就说，表征对于计算是必要的，但却不是充分的。拥有了表征，还需要将表征联系起来，这就是句法。

普特南等人认为，计算不仅依赖于表征，还依赖于句法，而且句法描述是多重可实现的：具有广泛异构物理属性的物理系统可能满足给定的句法描述。由于句法描述是可实现的，它比硬件描述要抽象得多。查默斯认为，“句法状态是通过它们之间的特征关系以及计算输入和输出来区分的”[8]。在查默斯的论述中，语法描述在事实上规定了一个因果拓扑结构。因此它限制了物理基础与抽象表征的因果结构关系。他认为，“如果系统的因果结构反映了计算的形式结构，那么系统就会实现计算”。([8]，p.323)这确实是一个很好的论证。根据查默斯关于语法与计算的论述，在日常计算实践中，我们通常将计算分解为基本的句法操作，并将句法输入转换为句法输出。这也与计算机这个人工计算系统的工作原理是一致的。计算机等这种人工计算系统的语法描述以层次结构组织，从逻辑门到机器代码，再到汇编代码，再到高级编程语言。当我们提升层次结构时，我们逐步描述的是语法处理的更抽象的方面。查默斯这种观点其实质是认为“计算”是在不同层次的因果结构中完成的。这一点已经被许多学者所证明。这也提醒我们，我们对“计算”的理解也不能忽视这种对应的不同的“层次性”。贝茨(Bates E.)指出，在语言学中，功能主义常常被认为是语言理论的自然替代，语言理论假定结构和功能能够分离，或描述结构事实，而不涉及语言的对象和目标或人类信息处理的能力。他认为这是一种误解。从语言学的角度看，“语法反映了认知内容和认知过程之间的相互作用；形式与功能之间存在符号性和指数性关系；形式与功能之间的映射是多对多；语法映射本质上是概率性的；功能主义在生物上具有可信性；功能主义应该主张在不同层次上进行”[9]。因此，对“计算”的不同层次理解应该成为判断心灵、意识、思维是否是计算的重要立场和方法。

三、对“计算的解释鸿沟”的辨正

根据对“计算”及其当代人工计算系统的“内部解析”，我们基本可以明确什么是计算，明确人工计算系统的“计算功能”是由不同层次的“计算要件”来实现的。瑞杰等人所说的“计算的解释鸿沟”也没有否认这种观点。瑞杰等人同样承认人工计算系统具有层次性，计算系统硬件基础对于人工计算系统体现心灵、意识、思维现象是必要的。可见，问题的分歧不在于是否需要硬件，而在于实现“计算功能”的过程性解释。瑞杰等人认为，“在确定相关意识的计算相关性方面，目前的主要困难是建立相关的关联”。([1]，p.175)更为具体地说，“计算的解释鸿沟”的产生是因为“目前缺乏对如何将高级认知信息处理映射到低级神经计算的理解”。换句话说，我们可以承认心灵、意识、思维是计算的，但是我们必须解释低层次神经活动如何产生了高级意识经验。因此，消解“计算的解释鸿沟”的实质就是要对计算系统做出更为明确的“内部解释”。这表明，瑞杰等人对所提供的“计算的解释鸿沟”的新证据的理解，并不是去彻底否定以“计算”的观点理解心灵、意识与思维，而只是强调以计算的观点来理解心灵、意识、思维还没有揭示的难点问题而已。这意味着，“计算的解释鸿沟”是否能够成立，不在于命题本身，而在于我们在何种程度上理解“计算”并如何解释“计算”的“内部过程”，其实质与关键在于对“计算”的“内部问题”的破解。

在已经出现的对心灵、意识、思维的“计算解释”中，经典的计算主义解释认为，大脑执行的计算与图灵机器执行的计算相似。联结主义者使用神经网络来阐释我们如何通过输入层、隐藏处理层和输出层构成的神经网络产生心灵、意识和思维。无论是在人工计算系统，还是在自然计算系统，硬件、表征与句法都是二者的共有概念。在硬件方面，包括瑞杰在内的所有质疑者基本上都不否定“硬件”对于计算功能显现的必要性。每个人都同意一个完整的计算系统的表述应该包括详细的硬件描述。剩下的就是表征和句法。当表征概念被引入哲学之后，传统的哲学家几乎都强调表征能力是心灵、意识、思维最重要的特征之一。知觉、运动控制、决策、语言习得、问题解决以及许多其他核心心理活动，都至关重要地涉及表征性心理状态。例如感知、知觉状态就是对外在环境一种特定的表征方式。它们表征了独立于意识体验者远端对象的形状、大小、颜色、位置和其他属性。即使反表征理论不断提出新的论证，也还没有令人信服的证据表明“表征”是没有意义的。我们需要注意的是，心灵、意识、思维活动的句法描述在对自然计算系统的解释中同样发挥着重要的作用。福多(Jerry Fodor)认为，心理计算操纵着从思维语言中提取出来的项，这是一种心理表征的内部系统。因此，心理计算对形式句法敏感，但对表征不敏感。心理表征的句法处理确保了心理计算在表征心理状态之间的适当过渡。[10]遗憾的是，这一点好像并没有得到哲学家们足够的重视。

不过，我们还是能够发现人工计算系统与自然计算系统在使用“句法”对“计算”进行“内部阐释”时的差异性。这表现为，句法描述在人工计算系统的表征描述和物理构建之间起着至关重要的中介作用。在人工计算系统中从硬件到表征再到句法，句法是表征与物理硬件之间的桥梁。卡特(Matt Carter)就认为，“我们的大多数语言活动是受句法规则控制的，因此可从计算上予以实现，尽管我们对这些规则是无知的”。[11]与此相反，许多对人的心理计算的过程描述多是有效地使用表征术语，而不是句法。大多数哲学家，对表征的重视要远远高于对句法的重视。在自然计算系统中从大脑到表征到句法，哲学家更多地强调了表征的重要性，费劲脑力用表征揭示心灵、意识、思维为何能够把心灵、意识、思维之外的存在物当作其有效关联的对象。卡明斯(Robert Cummins)认为，“是否应看作是表征……似乎取决于它们怎样被利用，即取决于它们的功能。……实际上就是它究竟是否被用作是表征”[12]。但是，表征之用究竟何以可能被用，这一点还需要深入探讨。另外一个差异是，哲学家并没有尝试建立一个计算系统。相反，他们试图去直接解释预先给定的人脑这个计算系统中的内部活动。需要特别指出的是，构建一个人工计算系统与理解一个预先给定的计算系统是完全不同的。现有规范的句法描述促进了设计和构建人工计算机的实际任务，但并没有证明它促进了理解给定计算系统的解释性任务。

这表明，我们对人工计算系统与自然计算系统的理解已经出现了一种不对应性，即句法对于人工计算系统具有足够的重要性，而这一点在我们对自然计算系统的解释中体现得并不充分。我们没有理由认为，抑制自然计算系统的表征性和硬件特性的说明，会促进我们对计算系统的研究。但我们也没有理由不认为，规范的句法描述会给心理计算的表征性和神经描述增加解释价值。任何计算机等人工计算系统都是自然计算系统设计的，而自然计算系统却不是由任何人工计算系统设计的。这就是为什么语法描述是我们理解人工计算系统的核心，而不是理解自然计算系统的核心，也是我们对自然计算系统的解释常常忽视其句法解释的深层原因。“计算的解释鸿沟”正是表明了，当前已有哲学阐释较好地解释了心灵、意识、思维计算的表征，但却还没有充分解释心灵、意识、思维计算的句法方面。这既涉及到如丹尼特(Daniel Dennett)所说的不同意向立场，也涉及到不同身份的描述问题。又或许是哲学家更加习惯于关注用计算解释心灵、意识、思维时的“整体的、外部的”问题，而不太关注用计算解释心灵、意识、思维的“局部的、内部的”问题。对“计算”及其内部结构及其逻辑关联的哲学分析表明，注重从“整体的、外部的”视角理解心灵、意识、思维的计算，而不注重从“局部的、内部的”句法关系理解心灵、意识、思维的计算，是我们至今仍然无法解释从低级认知现象上升为高级认知现象的逻辑关联的重要障碍，也是“计算的解释鸿沟”依然存在的重要哲学根源。

综上，“计算的解释鸿沟”的新证据不在于“计算”是否能够解释心灵、意识、思维，而在于哲学家与科学家是否能够将自然计算系统与人工计算系统的概念内涵、内部结构与逻辑关系对应起来，而不是出现“错位理解”。当代“计算机器”的出现确实给理解心灵、意识、思维提供了方便。不幸的是，我们太过急于从人工计算系统中推断自然计算系统的“内部计算过程”。这种急于求成的重点在于表征，而极大地忽视了句法。句法在人工计算系统的设计和构建中扮演着重要的实用角色。正是它帮助我们将期望的表征描述转换为实际的物理机器操作，但句法在我们对自然计算系统的理解中却往往未得到足够的解释。实际上，对自然计算系统中精神活动的句法描述也具有十分重要的作用。否则，表征性精神活动和实现它的神经处理解释将走向空泛而无序的抽象。如果我们仍然相信“计算性解释是认知科学中众多解释的一种形式，其独特之处在于它在机械解释中的作用及其普遍性”[13]。如果人工计算系统与自然计算系统的支持者都承认硬件、表征、语法构成了“计算”的“内部三个层次”，那么，我们需要强调的是，句法在人工计算系统的表征描述和心理计算的物理实现之间起着不可或缺的桥梁作用。我们需要重视句法操作在人工计算系统中所起的关键作用，并在此基础上提出自然计算系统的心理句法。在心理计算的句法描述中强调具有某种因果性、解释性或形而上的优先性，这是非常有价值的。更多的去揭示心灵的句法计算，这是破解“计算的解释鸿沟”的努力方向，而不只有表征。总之，在心灵、意识、思维的计算解释实践中，如果我们能够阐明表征与句法的“共变机制”，必然能够提出更加引人瞩目的关于心灵、意识、思维的计算理论。到那时，“计算的解释鸿沟”也可能自然就不存在了。

参考文献：

[1]Reggia,J.A.,Monner,D.,Sylvester,J.“The Computational Explanatory Gap”[J].Journal of Consciousness Studies,2014,21(9-10):153-178.

[2]Davis,M.Engines of Logic:Mathematicians and the Origin of the Computer[M].New York:WW Norton & Co.,Inc.,2001,2.

[3]Sloman,A.The Computer Revolution in Philosophy:Philosophy,Science and Models of Mind[M].Brighton:Harvester Press,1978,32.

[4]Copeland,B.J.“What is Computation?”[J].Synthese,1996,108(3):335-359.

[5]Haugeland,J.Artificial Intelligence:The Very Idea[M].Massachusetts:MIT Press,1989,127-192.

[6]Burge,T.Foundations of Mind[M].Oxford:Oxford University Press,2007,43.

[7]Putman,H.Mind,Language and Reality:Philosophical Papers[M].Cambridge:Cambridge University Press,1975,172-215.

[8]Chalmers,D.“A Computational Foundation for the Study of Cognition”[J].The Journal of Cognitive Science,2011,12(4):323-357.

[9]Bates,E.,MacWhinney,B.“What is Functionalism?”[J]Papers and Reports on Child Language Development,1988,27:138-152.

[10]Fodor,J.A.LOT 2:The Language of Thought Revisited[M].Oxford:Oxford University Press,2008,83.

[11]Carter,M.Mind and Computers:An Introduction to the Philosophy of AI[M].Edinburgh:Edinburgh University Press,2007,199.

[12]Cummins,R.Meaning and Mental Representation[M].Massachusetts:The MIT Press,1989,292.