机器能思想吗？

​

一、机器人现象

 

机器的现象已越来越近似于人。笛卡尔在《谈谈方法》（1637）中曾断言即便机器能够输出语词，也无法 “改变语词的排列，以恰当地应对人们对它说的所有不同的话”，这一技术复杂程度上的困难已于四百年后被克服。阿兰·图灵在《计算机器与智能》（1950）中承认人工智能模仿的是人类的输出结果而非思维过程，并认为我们无须理解意识的原理，同样能模仿意识的输出结果。图灵知道人们会设计出各种刁钻的测试考验机器，例如写诗。然而他指出这同样只是技术复杂程度上的问题：只要机器足够复杂，写出些马马虎虎的诗，或如诗学外行那样对诗歌发表些粗浅见解并非难事。如果坚持认为只有写出伟大杰作才算 “人”，才算是在 “思想”，那么绝大多数人类其实也没有思想，与机器无异。近代哲学家声称人都有创造性的可能性或 “潜能”，然而世界上没有两个完全相同的大脑，我们怎知道某些人写不出伟大诗歌不是由于大脑的物理硬件缺陷呢？以能否写诗判断能否思想的人不得不面对将 “庸人” 和机器划为同类的奇怪结论。

图灵并不去证伪 “思想” 的运作规律（逻辑）和计算机的机械运动（物理）之间的原则性区别。他将论证的责任推给对方：如果我们承认他人也有生命和思想，凭什么说一台通过高强度图灵测试的电脑不是 “生命”、不在 “思想”？他人与机器的究竟区别何在？解剖学也发现不了 “生命”，但我们仍然承认生命存在；那即便找不到机器的 “思想”，为何不能承认它在思想？

对机器思想的一个反驳来自约翰·塞尔的 “中文屋” 思想实验：假如有一个只会说英语的人被关在屋里，通过中文纸条和屋外一个不会英语的中国人交流，屋内人所能借助的工具只有一本写满了 “若收到写有X的纸条，在满足Y条件下，输出Z符号” 的庞大《规则书》，不会中文的屋内人可以装作和屋外人交流。只要《规则书》的规模足够大，就能在有限时间内营造出屋内人懂中文的幻觉。【这并不意味着它能在无限长的时间和无限广的话语可能性上不露破绽，这要求《规则书》容量无限大。】塞尔的中文屋的运作方式等效于一台机器，屋内人其实不懂中文，所以机器其实并不思想。然而这一思想实验有一漏洞：屋内人不懂中文，并不意味着中文屋之 “整体” 不懂中文。中文屋输出中文的规则不来自屋内人，而来自《规则书》，屋内人只相当于《规则书》的扫描仪和机械臂。于是老问题又绕回来了：假如将《规则书》视作中文屋这个物理整体的运行方式的宏观描述，即所谓 “程序”，你怎么知道这个物理整体不会思维？

然而无论图灵对自己命题的防御，还是塞尔中文屋思想实验的失败之处都说明：论证机器不能 “思想” 的唯一方法是清晰地说出某种足以严格区分机器和人类的区分标准，既不把人类中的智力残障者混淆为机器，也不把机器中的顶尖者误判为人类。该标准不能建立在现象上，因为对现象的模仿只需提升技术复杂度即可实现；我们必须承认机器可以在现象上完全模仿人，然后对二者作出原理上的区分。【值得一提的是该论题的不对称性：关于机器能否思想的讨论，一直是关于机器不能思想的立论，和对这些立论的反驳。然而反驳了机器不能思想的立论，不代表证明了机器能思想。】

Rene Descartes & Alan Turing

二、人工与自然

 

图灵认为：在 “是否思想” 的问题上，关于他人与机器的判断规则相同；如果我们拒绝将他人视为机器的唯我论，就没有理由拒绝将机器视为他人。然而二者区别在于机器是 “人工” 的而他人不是，因此对 “人工” 之概念的分析是反驳图灵的唯一可能性。最基础的问题尚未澄清：当我们说 “人工智能” 时究竟在说什么？在使用概念之前须先澄清它的界限。近代哲学中的 “自然” 与 “人工” 是一组对子，然而自从物理学将自然理解成物理的，一切自然的事物也都被理解成了可人工制造、待技术改造或无须改造即可接入技术世界的。只要 “自然” 是物理的，它与 “人工” 之间就不存在原则性的界限，唯有一个例外：“自然智能” 与 “人工智能”之间的界限仍在，这是由于人类尚不能物理地描述自然智能。相信随着科技进步机器终究能够思想的人必须相信：人类最终能够以纯物理语言描述意识，否则在涉及智能之事上，“自然” 和 “人工”之间的界限就无法消除。

以下思想实验将展示这一界限。世界上每一对夫妇都知道如何 “造人”，但我们不会把他们 “造” 的人称作 “人工” 智能；假如把一个人的手臂换成机械臂，我们不会把他操作手臂的行为叫作 “人工智能”；如果他将除大脑外的其他全部身体都换成了机械，我们同样不会认为他是人工智能；继续设想我们从干细胞中培养出了一个大脑或大脑的一部分，并实现了人的思维功能，我们仍不会将它叫作 “人工智能”，相反，我们必须承认它就是一个人。因为只要智能仍是 “自然发育” 而来，只要我们未能将思维完全还原为对脑物理运动的描述，未能在某语境下的某语义和脑部物理运动之间建立严格对应，它的运作原理就仍不是 “人工” 的，而是未解的 “自然” 之谜。哪怕几千年后，人类用原子级精密复刻技术复制一颗大脑并实现了智能，它也不能算是人工智能而必须被承认为人，因为它仍是对人类智能的呆板抄袭，其运作原理仍是未知的、神秘的，并非出自人的设计。

因此 “人工” 智能不能包括仅具备操作性、却无法对其运作原理作彻底的物理还原的黑箱，否则它的智能部分就不是人工的，无法从原则上被区别于 “人”。只要机器的智能部分并非人工，哪怕所有辅助部分（例如能量供给装置）都是人工的，也不能算人工智能。人工智能必须基于人类已知、确定的物理原理（例如用电路搭建起来）。中文里的电 “脑” 是一个拟人修辞，英语中的 “computer（计算机）” 亦是如此。“计算” 是人的活动，“计算机” 这个名词默认了该电路在做 “计算” 并将其比喻为人。最严谨、最不会错的消除了隐喻的语言应当就叫它 “机器” 或 “电路”。

这一区分涉及了物理学和生物学之间的界限。“自然科学” 的统一性只是就诸学科的不矛盾性而言的，现代诸科学不再承诺知识（scientia / Wissenschaft）整体的连贯同一。物理学和生物学所用语言不同，分别关涉两个不同的世界：前者关乎力、质量、时空、场、粒子，后者关乎生命、组织、功能、意图。尽管这两个学科不矛盾，却无法将生物语言还原为物理语言。“生命” 在物理学语境下是无意义的，伽利略若从斜塔上跳下来，物理学也只关心他是否和铁球同时落地，不会关心他的 “生” 与 “死”。

因此，要说明机器能 “思想”，就得说明仅靠物理原理设计并制造的机器能 “思想”，这就意味着要用物理原理推出生物学语境下才有意义的概念。有人会质疑这两个学科的区分，说动物 “神经” 同样也是物理的。然而这样想的人遗忘了一点：当你说 “神经” 时必然指某个生命的神经。你一定先有了 “生命” 的概念，在此语境下将该物体理解为 “生命” 的一部分和实现某种 “功能” 的 “组织”，才会把它叫作 “神经”。倘若没有预设这根神经是 “生命” 的一部分，它不过是一根会产生电脉冲的电线。说  “身体” 由细胞构成和说一堆原子由很多原子构成语境不同，细胞是一个生物学概念而原子不是。我们须用“电路”来指代被拟人修辞称为 “计算机” 或 “电脑” 的物，以消去隐喻构造出来的幻觉。

然而支持计算机和人类没什么区别的人会反问：我们为何不能放弃 “神经” 这个词，直接改称其为 “电线” 呢？机器是电路构成的，有生命和思想；人也是电线构成的，也有生命和思想；人类迄今未能将 “语言” 之现象还原为物理描述，不代表以后不能。若要反驳这种说法就必须论证：无论科学多么发达，都不可能将语言及其规律还原到物理学的确定规律中去，而机器必然依靠这种确定规律的设计。这意味着未来最先进的机器是否可能具备真正意义上 “思想”，取决于一个古老的哲学问题：人是否仅是机器？如果承认 “我” 在心-物问题上只是人类的普通一员，那么问题就是：“我” 是否仅是机器？【本文不讨论唯我论，即认为只有我有意识，其他人类都是机器的世界观。因此本文中人的 “思想” 和物理运动之间的区别，等同于 “我思” 与物理运动之间的区别。】

三、物理语言与 “生命”

 

本节接着讨论一个基础问题：仅靠物理概念能否定义生命。如果我们能仅靠物理概念定义生命，也就有可能在无视工艺难度的前提下，仅凭物理定律制造它。只有这个问题得到充分讨论之后，我们才能进入下一个论证环节。

薛定谔：《生命是什么》

​

物理学家曾试图用纯物理概念定义 “生命”，例如薛定谔在《生命是什么》中试图以一个 “可测量的物理量：熵” 为生命和非生命划界。然而他有两点疏漏：首先，若将两个人的身体视作物理上的整体，该物理整体也产生负熵，但若认为这两个人是同一个生命的两个部分是荒唐的。其次，薛定谔指出物理规律最终皆是统计层面的，他承认非生命的物理构造在机缘巧合的一瞬也可能产生负熵：一只静止的钟摆，理论上仍有极小概率因相当比例的粒子同时向同一方向运动而产生的 “布朗运动大发作” 将无序的热能转化成有序的动能，自行摆动起来。但我们不会说这条钟摆一瞬间 “生” 了又 “死” 了。薛定谔认为 “生命” 产生负熵以抵消熵增的结构必须可 “保持下去”，然而所谓的持存 “一定时间长度”，恰是以人类迄今所知的生物寿命为尺度的；单纯从物理学的观点看，一百年和一微秒之间没有质的区别。

以熵定义生命的关键就在 “内/外” 之别：内部以负熵抗衡熵增的活动总是伴随着外部的更大熵增。然而 “内/外” 区别不是物理的，而是直觉将 “生命” 及其执行 “功能” 的 “组织” 视作整体。物理学中没有整体，只有一个个原子。“内/外” 区别以对生命整体的直观为前提。而物理语言之所以无法定义生命，正是因为它无涉生命在时空中的同一性。若不预先直觉地领会了什么是 “生命”，仅凭物理定律无法推出为何连体婴儿是两条生命而非同一堆原子，孕妇腹中的胎儿究竟在哪一瞬间算是一条 “命”，拥有上万亿细胞的人体为何不是万亿个生命（万亿堆原子）而是一个生命，下一秒钟的我为何还是我直到“死”，为何“死”的标准不是身上每个细胞都停止代谢。物理语言无关生命。

 另一种反驳认为物理学不必以粒子为研究对象，可以研究 “结构”，并以迄今发现且被承认为 “生命” 之物的某些物理结构共性（如核酸）归纳出 “生命” 的定义。然而只有先以直觉判断了 “生命” 和 “非生命”，才可能归纳 “生命” 的物理共性，且这只能归纳出迄今被直觉判断为 “生命” 的存在的必要物理条件，既无法排除迥异的生命形式存在的可能性，也无法排除非生命的物质也符合该共性的可能性。

四、逻辑与物理

 

将人的智能类比为遵循形式规则操控物理符号的机器，是将大脑类比成硬件，将心灵比喻成软件。【该类比的世界观前提是霍布斯式的机械论。基于现代哲学的反驳参见Hubert Dreyfus, WhatComputers Still Can’t Do】然而机器上 “安装” 的 “软件” 仍须通过物理上改动硬件来存储和执行，所以最终机器仍只有物理硬件，所谓 “软件” 并非实在。“心灵” 中 “语义” 运行的本质是大脑在 “操控” 物理符号。然而这种 “操控” 若有意向性，就等同于预设了一个寄居脑中的 “小人（homunculus）” 式的有意识的存在，而这个 “小人” 的意识又需要用更小的 “小小人” 来解释，陷入无穷倒退。【一种避免无穷倒退的企图，是认为人的 “意识整体” 是由众多意识较弱的 “部分（小人）” 组成。然而意识最弱的部分也不是物理的，因此该假设仍需以功能现象与物理原理之间的视角切换（redescription）取代单一、物理的分析视角。参见 John Haugeland, ArtificialIntelligence: The Very Idea】为避免这一结论，该假设只能导向机械决定论：思想和语言只是幻觉，被脑的物理活动所决定。

“脑中小人” 的脑中必须有更小的 “小小人”……

有人提出反驳：语义的规律是逻辑，若将语义还原为大脑的物理构造，由于世界上不存在完全相同的大脑，则会导致不存在完全相同的逻辑，或每个大脑的逻辑都有细微差别；然而不普遍的逻辑根本不是逻辑，也就取消了逻辑，这是荒谬的。单凭这一点无法反驳物理还原论：世上也不存在两块物理上完全相同的集成电路。既然不同的集成电路能运行同样的程序，构造略有不同的人脑，当然也能运行同样的逻辑。

机械的确能模拟逻辑中的 “与或非” 等形式关系，所谓 “逻辑门电路” 正是这样一种机械装置，其输出结果是否正确，取决于电路是否故障：“逻辑错误” 的本质是物理故障。然而人脑中的逻辑错误却并非 “逻辑机械” 故障的结果。理论上说，思想推理的 “过程” 不可能违背逻辑。人的 “逻辑错误” 只是思想对象的混淆，而非我们赖以思维诸对象的逻辑 “运行错了”。当人们指出他人的“逻辑错误”时，总是指出对方看错了符号，或误将一个对象混淆为另一个；被指出 “逻辑错误” 的人一旦意识到了这些对象上的混淆，立刻就能正确地思维。三段论是典型的逻辑规则，以偏概全是典型的逻辑谬误；然而该谬误的本质不是犯错者的思维规则脱离了三段论，而是误将思维对象从个例偷换成了全体。以偏概全是人们在不熟悉的领域中错误地选择了思维对象而产生的错误，在人们最熟悉的领域，三段论是日用而不知的。矛盾也是常见的逻辑错误，例如甲刚说乙好，又说乙坏，该语义矛盾只说明甲认为乙的好、坏方面不同，而不能说明甲的思维是非逻辑的。逻辑是思维的被动规则，所谓 “逻辑错误” 其实是主动选择思维对象这一环节的错误，而非关于给定对象的思维脱离了逻辑。

因此那种认为逻辑是思维的“应然”规律、心理是思维的 “实然” 规律的观点是谬误。真相是：逻辑是思维的规律，人无法直接地违背逻辑。心理因素会诱使我们不自觉地偷换对象。人类重视形式逻辑，将它视作一门学科，不是为了 “令” 逻辑成为思维的规律（它本来就已是），而是用形式化的语言，保证在从头到尾的推论过程中的意义一贯性。只要在思考复杂事物时紧盯每一概念的意义，作为思维之规律的逻辑就必然能保证最终结论与最初前提同一。相反，心理因素常常偷换概念，从荒谬的前提中推出看似合理的结论，抑或相反。

逻辑不可蚀损，而它的物理模仿品，即逻辑门装置，却是可蚀损的。后者只是在人看来显示了逻辑，电路本身并不比算盘或纸上的竖式计算墨迹更智能。人的大脑也是可朽的，假设逻辑取决于脑部物理装置（逻辑门）的构造，则不存在逻辑上有效和无效的推论的区别，而只有物理构造的不同。当我们将机械运作描述为运行 “逻辑” 或处理 “信息”，就已经将其输出结果比喻成了 “语言”。“逻辑门（logic gate）” 也是一个隐喻，和电 “脑” 这个隐喻一样诱使我们不知不觉间虚假地跨越了心物两界。

逻辑不仅包括且、或、非、三段论、矛盾律等命题之间的形式关系。广义的逻辑还包括世界的基础构造。例如 “长度三公斤” 是一串无意义字符，因为它不是经验上而是逻辑上错误的。然而机器运作的规律是物理的，物理运动本身无所谓正确和错误：我们可以设计一台输出 “长度三公斤” 之字符图案的图灵机，这台机器并不比输出 “长度三米” 的图灵机更 “错”，因为机械运动无关语义，无所谓对错。逻辑谬误违背逻辑规则，物理故障却不违背物理定律。逻辑是语言的规则，具备机器所不具备的不可蚀损性；其中包含了世界的逻辑构造，它将 “长度三公斤” 这样的表达判为无意义。如果我们要剔除语言中的隐喻对事物的基本原理的遮蔽，就不该使用 “逻辑门” 这个词汇，而只能说二极管、三极管或直接将它统称为 “物理机械”。

人类的语言关涉世界的逻辑构造，且这不是因为人类的 “语言程序” 被 “编” 成这样。有人会认为：只要把机器的物理构造设计得合乎人类语言的逻辑，例如令 “公斤” 这个输出结果不与 “长度” 这个输出结果在某些条件下产生某些关联，机器就不会输出 “长度三公斤”，我们凭什么说机器没有逻辑？然而既然程序是机器运转的物理结构，也就意味着物理结构也可能被设计为输出 “不合逻辑” 的结果，因为物理运动无所谓对错。若认为语言中的逻辑是被 “编” 成这样，就已经默认了它可能被 “编” 成其他样子，也就意味着在物理构造截然不同的其他智慧生命（例如外星人）的语言中 “长度三公斤” 可能有意义，这仍是荒谬的。外星人也不可能用表示轻重的单位来表示长短。因此语言的逻辑不能被类比为机器的物理构造（程序），这是二者间无法跨越的根本区别。“长度三公斤” 这个表达的无意义性由宇宙的基本构造决定，谈论一个没有质量、没有长度的宇宙没有意义。长度的单位不是公斤，这是物理语言的基础语法，机器以物理方式运作，却不理解它。 

具备红外眼的外星人却可能用表示 “亮度” 的词汇来表示 “温度”，因为红外亮度和温度在物理上本就是一回事。“温度” 是丘奇兰德常用的例子，然而该个例不能说明心灵的一切方面都可塑，只说明了知觉词汇的可塑性。科学实在论承认是精密科学的语言而非受限于感官知觉的日常语言描述了宇宙的物理实在，并不能推出全部的日常语言都能被取消，并被前者取代。

在澄清了这一点后，我们来考察身心问题中的 “难问题（hard problem）”：内在的意识体验是如何伴随外在的物理运动出现的？“我” 的存在是一个直接现实，“我在” 的确定性基于 “我思”，该命题具备和 “长度不是质量” 同等强度的确定性，同属于世界的逻辑构造。可见 “难问题” 之所以困难，仍是因为我们无法追问世界的构造为何如此。机器可以无所谓对错地输出字符 “我思故我在” 和 “长度三米”，也能输出字符 “我思我不在” 和 “长度三公斤”，而人只能合逻辑地说出前两者。

Hubert Dreyfus & John Haugeland

​

五、物理主义与条件反射

 

物理主义认为 “语言” 只是幻觉，甲乙两 “人” 相互 “交谈”，其实是两堆原子物理互动：甲的声带振动经由空气传播至乙的鼓膜和神经在乙的脑中发生了某种未知的物理运动并最终导致了乙的声带振动。该世界观取消了语义间的逻辑关联，并认为语音之间的关联规则皆是脑的 “物理结构”；不仅将语言习得还原为反射训练，还预设反射训练仅是基于脑的物理可塑性的纯物理过程。其理论困难在于：反射训练虽能任意地建立声音与概念之间的连接（索绪尔早已说明过其中的任意性），却无法任意地建立诸概念（在物理主义者看来只是诸声音）之间的联系。假设反射训练的机制是纯物理的，则无异于拉马克式的 “用进废退”。物理主义世界观将 “长度”、“公斤”、“长度三公斤” 都视作声响，声响之间没有原则上的区别；发出 “长度三公斤” 这样的声音之所以别扭，仅是因为全人类都在反射训练中被 “训练” 出了关于这两个声音之间的某些物理构造障碍。

假如每当一只不能理解复杂语义却能发声的动物，例如鹦鹉，发出 “长度三米” 的声音就能得到食物，它就会被训练成发出 “长度三米” 之声波的鹦鹉。如果将给食物的条件改成 “长度三公斤”，它也会被训练成发出 “长度三公斤” 之声波的鹦鹉。这一前一后两只鹦鹉并无区别。如果对人类做同样的事，每说一次 “长度三公斤” 都给他一笔钱，一些人或许也会说 “长度三公斤”。然而不同之处在于人知道这串词汇关联是荒谬的。语义规则不是某种被刺激-反馈的反射训练强化出来的物理构造。即便我们抛掉 “心” 和 “灵魂” 的概念，甚至不谈论 “思想”，也无法取消语义规则相对于物理规则的独立性。

物理还原论要求将语言习得视作物理的反射训练，而反射关联的任意性则要求语义关联的任意性和不受限制性。物理还原论主张语言是幻觉，却在关于该幻觉的宏观现象上，反而要求一种（比萨丕尔-沃尔夫假说更极端的）语言对世界观的决定论：人类试图理解 “长度三公斤” 时的荒谬 “感”，只是由于被训练出了某种阻碍 “长度” 和 “公斤” 这两串声波在脑部物理构造中以某种顺序相结合的物理 “阻塞”；而非因为长度和质量在世界构造中本就是两回事，两个词的不相干反映了这两个尺度的原则性区别。世界的构造不是任意的，倘若语义关联是任意的，则语言与世界毫无关联。

然而假如人对 “长度”、“质量” 等词汇的反应都只是被物理刺激训练、塑造形成的脑部物理结构，“长度三公斤” 这个说法并不比 “长度三米” 更错误，那么这意味着物理主义在取消了语言的同时，也取消了物理学，因为物理学也是有语义的。当我们说某人接受过物理学的学术训练时，绝不是在说此人受到过关于 “质量”、“长度” 等声音的反射训练。

 

六、物理决定论与心物平行论

 

上文仅通过概念辨析就已说明：语言中的意义无法还原为确定可控的物理机械，反驳了物理还原主义。本文至此尚未考察物理学史的变迁给身心问题带来的变化。笛卡尔相信自然的相当部分是机械的，却未把机械性推至宇宙的每个角落；他认为动物与机器无异，而人类却有 “松果体” 连接了意识和身体。这样的世界观基于两个直觉，其一是物的机械性：物的运动 “显然” 有规律可循；其二是心物交互影响：心灵 “显然” 支配着身体。半个世纪后，牛顿发现的万有引力将整个宇宙统摄在决定论之下，物的机械性成为了一种普遍属性，笛卡尔式的松果体遭遇了理论困难：作为一种物质，松果体难道不也须服从物理定律吗？牛顿力学推出了物理决定论世界观和物理因果封闭性，任何物理运动有且仅有物理上的原因。然而语言不是物理的，它何以影响身体，何以能 “命令” 手臂举起？物理主义者认为这是二元论 “无法避免的致命缺陷”。

上文已说明，物理主义的谬误在于它无视语义的规律（逻辑）。然而逻辑规则独立于物理规律只能证明语言无法还原为物理，并不必然意味着语言对身体的支配，后者只是一个直觉。牛顿同时代的斯宾诺莎、莱布尼茨舍弃了心物交互影响这一直觉，持心物平行论（parallelism）世界观：身心交互作用只是将共时性误认作因果性的幻觉。每当我想举起手臂，“碰巧” 物理世界的力的作用也会让手臂举起。心物平行论中的神秘主义，在于我们无法相信身心运动的共时性皆是巧合，须预设神规定了两个平行层面之间的前定和谐。

心物平行论的可能性无法被严格地排除。尽管它非常违反直觉，但只要满足两个条件：一，物理宇宙满足严格决定论；二，语义中的逻辑无法还原为物理规律；这种奇怪的世界观竟是唯一的可能性。【与平行论类似的是副现象主义（epiphenomenalism），认为物理运动可以影响心灵，而心灵活动影响物理身体却只是幻觉。该世界观同样须基于物理因果封闭性。】换句话说，假如爱因斯坦与玻尔的争论结果是爱因斯坦正确，亚原子粒子的运动也受严格决定论支配，我们就不得不接受心物平行论世界观。只因20世纪（迄今的）量子物理学颠覆了严格决定论，我们才不必接受它。

“物理因果封闭性” 在量子物理中被削弱了：微观尺度下被物理地决定了的只是概率大小，具体到是否发生却是随机。一些人认为，如果语言能影响身体，宏观世界也就不是决定论的了，这不可思议。然而宏观世界也由微观粒子构成，因此本就不是严格决定论的。人类可以通过某些装置放大微观随机概率事件，使之影响宏观世界，例如我们可以用原子衰变触发机关毒死一只猫。

然而语言何以能影响身体的问题仍然无解。该问题既无法靠哲学的概念辨析解答，也不是以物理学为典范的还原论科学问题。科学不以具体的语义为对象，无关语义和神经之间的因果关联，神经细胞控制机械臂早已实现，但语言控制机械脑却不可能实现，因为语言不是物质，我们无法将语言从人脑中 “分离” 出来再令它 “作用于” 机械。我们不得不对 “语言如何强制性地作用于物理身体” 之问题保持沉默。理性的宗旨是消除既有知识中的矛盾，而不是编造某种宣言承诺人类一定能穷尽知识。“祛魅” 的历史进程是具体的、逐步的，从中并不能推出世界的谜是可穷尽的。

语言/物理的二元论令 “人” 的 “身体” 呈现为一个谜。有语言的动物不必然具备有机分子，【“有机” 这个形容词本身是18世纪活力论的遗留。】哲学和物理学皆无法严格地排除金属星球塞伯坦和变形金刚存在的可能性。对地球物种中心主义的这一反驳看似支持了机器智能的可能性，然而问题的关键不在于此，而在于人类的工业技术只能制造遵循物理确定规律之物，无法制造挣脱了物理确定性的语言。

 

七、量子意识论世界观

 

物理决定论的破灭产生了一种新的试图解释心物交互作用的世界观：“量子意识论”。它认为人的语言和意识是无数亚原子粒子协同运动的宏观表现，不确定原理令人类无法探索量子和语言之间的隐秘关系。每当确定性的边界前拓，神秘主义就会后撤，如今它后撤到了量子中。有语言的不是人，而是粒子间的协同运动；尽管 “随机” 并不意味着 “自由”，却为自由意志保留了可能性的余地。虽然单个亚原子粒子的运动是随机的，众多粒子却可能被某种神秘法则连接，构成了量子-语言。然而这种观点仍不可避免是神秘主义的。

首先，人远没有无穷多个粒子那么多个不同的意志，且自由意志意味着做选择而非真随机，因此单个粒子运动的随机性无关意识，意识必须是众多粒子的协同作用。量子意识论注定只是一种假设：不确定原理令我们无法测量粒子的精确状态，我们对量子的 “协同” 作用的规模和形式更一无所知，也就无法观测它。对这种注定不可测的神秘法则的信念，无异于相信灵魂存在。

其次，该假设无法确定量子协同作用的规模，即哪些粒子加入了谁的协同作用。上文说到任何企图以物理概念定义 “生命” 的理论，都无关自我的时间同一性和身体的空间同一性，量子意识论也面临同样的困难。为了避开这一难题，泛心论（panpsychism）世界观被发明出来：宇宙中所有粒子的协同作用即是世界上所有可能的思想的总和，整个宇宙是一部量子交响乐，量子世界即观念世界，人的宏观身体只是观念（量子）世界支配下的提线木偶。哪怕石头中的微观粒子也有思想 “潜能”，人异于石头只是因为人拥有某种物理结构将量子协同作用作宏观放大。

罗杰·彭罗斯：《皇帝的新脑》

​

因此有科学家去寻找这种物理结构，例如彭罗斯（Roger Penrose）与哈梅罗夫（Stuart Hameroff）认为量子-意识的场所是神经微管，而斯塔普（Henry Stapp）则认为量子-意识活跃于整个大脑甚至更广的空间。无论此类假说是真是假，都无法被证成。因为脑的某个部件中存在量子相干性作用是一回事，该量子相干性就是 “意识” 则是另一回事。前者是一个屋里现象，后者却不是一个科学命题。

泛心论将整个宇宙视作神秘的，以此为代价避开某些逻辑断裂，例如它与演化论相容。演化论的最大理论困难即生物演化本质上是DNA分子的突变和选择，而转录、翻译等基因表达过程是机械的，和自动化生产线并无区别。机械无论如何演化都仍是机械，从中 “突现” 出 “意识” 仍不可思议。因此突现论（emergentism）无法克服神秘主义。泛心论则认为宇宙中的粒子本身就有意识，免去了突现环节的理论困境。

在物理学语境下亚原子粒子的运动是概率的，在量子意识论语境中它们是精神的，语境错位使得亚原子粒子已不再能被称为 “物理的”。因此这种认为物质与精神皆由基本粒子构成的一元论已不能称作物理一元论，而只是改头换面的二元论：它将基本粒子的属性（property）区分成物理的和精神的。

以上我们讨论了量子意识论作为一种世界观的可能性。然而一种世界观可能成立，和它确实成立，和人类能够凭借它设计工业技术，这三者之间有原则性的区别。即便量子意识论确是这个宇宙的真相，人类也不可能设计出不确定的量子之间的协同作用，工业设计只能利用确定性的规律，否则就无所谓设计和制造。即便某台机器中的量子协同作用 “觉醒” 了，产生了语言（这仅在逻辑上是可能的，正如神的存在也是逻辑上可能的），也不能归功于人类的工业技术，因为人无法设计出令不确定的量子 “觉醒” 的确定性装置。在人的设计中，靠不确定原理来摆脱确定性的机器，除了用来输出真随机数之外不会有其他用途。

然而支持人工智能的一个理由是，人类虽不能直接设计量子间的协同作用，却能制造激发该作用的装置。我们不必知道一件事的物理原理，也能够应用它产生某种结果。例如古代人并不知道草药中某些分子的化学反应原理，却依然能用这些草药治病。或许直到工程师们造出人工智能之后，科学家们对其原理的猜测仍是荒谬的；正如中医理论对疗效的解释是非科学的，却并不妨碍某些草药能引起特定效果。

然而智能却比草药复杂。中医理论虽不明白草药的原理，现代科学却能证明凡是确有疗效的草药，必然基于确定可控的物理-化学变化。因此人类可能在未有科学之前就仅凭经验掌握确定可控的草药实践。智能不基于确定的物理规律，凡是基于确定的物理规律之物都只是机器。这意味着认为人类可以 “知其然不知其所以然” 地制造出人工智能的观点，必须相信人类能够掌握确定、可重复的手段，将物理上遵循不确定原理的亚原子粒子 “激活” 为智能。这种可能性几乎就是魔法，然而在量子意识论为真（这不可能得到证明）的前提下，它并非绝对不可能。假如彭罗斯关于神经微管中的量子意识的猜想正确，【由于量子意识论无法被证明，彭罗斯的猜想（以及类似的其他猜想）也不可能被证明。同时，我们也无法通过考察已知 “有意识物种” 的神经微管中是否有量子相干性来间接证明这一猜想：为了不陷入循环论证，对某物种是否有意识的判断只能是直觉判断，而我们无法凭直觉判断某些低等动物是否有意识。】我们就能通过搭建人造神经微管来激发其中的量子协同作用，制造真智能。这里的问题是：即便人类用这种方法造出了真智能，也无法确定它是人工的——由于我们无法证明它出自量子原理，它也就无法被区别于复刻人类大脑的一部分，人工的魔法也就无法被分辨于自然的神秘了。

 

八、理性与直觉

 

本文第四、五两小节已说明语言和物理运动之间的原则性区别，反驳了物理还原论；第六、七两小节描述了心物平行论、量子意识论这两种可能的世界观，二者都无可避免地陷入了神秘。这种神秘性根本上是由第四、五两节阐述的语言中的逻辑的不可还原性所导致：语言的不可还原性注定了一切可能的世界观都是二元论的，要么是实体二元论，要么是属性二元论。差别仅在于物理学史上的决定论与量子论给 “心物交互作用” 留下的逻辑空间大小不同，由此产生了不同的世界观。二元论强迫我们对语言/物理之间的断裂保持沉默。这种沉默源自对所能言说之物的界限自觉，也正是这一自觉让哲学从诸世界观的争执中抽身而出。

本文的最后一节将澄清 “机器能思想吗” 这一困惑（puzzle）的源头。该问题在本时代的争论无关上一节中说到的量子意识论的可能性，只关乎确定性物理机器；关于这种机器为何不可能产生真智能，本文第四、五两小节已作出了说明。那么究竟为何人们产生了机器能思想的幻觉呢？这一问题针对的不再是物理的或逻辑的原则，而是生活世界中的幻觉。【“生活世界” 之概念预设了身心交互影响，因此不涉及心物平行论的可能性；它承认主体间性，因此也不涉及只承认 “我” 的意识、否认他人意识的唯我论的可能性。】

在说明语义的逻辑独立于物理原理时，我一直强调这是语言的属性。然而由于 “思想” 看似是 “内在” 的，我们对某物是否有 “思想” 的判断常诉诸整体直觉。即便我们知道人类设计的机器运作基于确定的物理规律，不同于语义的逻辑规律，我们仍会在直觉上将机器的物理运动视作语言输出，甚至发明出 “计算” 机、电 “脑”、“逻辑” 门等隐喻来强化该幻觉。关于某物是否 “思想” 或是否有 “生命” 的判断常诉诸直觉的迅速判断，而非严格的分析。生物学无法为 “生命” 和非生命划界，一切生物学却必然是关于 “生命” 的组织与功能的研究。直观强迫我们感觉一个通过图灵测试的机器有 “思想”，强迫我们感觉一个会动的、逼真的人偶有生命，尽管当我们和人偶游戏时，无论多么入戏都不会真的认为它有生命。如果它过于逼真会出现恐怖谷心理现象，然而心理现象不该混淆为理性判断：它其实并无生命。维特根斯坦做过一个思想实验：假如独自在房里的人将人们都想象成目光呆滞的自动机，这样的想象会很可怕。然而人们若在日常交往中将大街上的孩子想象成自动机，只会觉得这种想法没有意义。维特根斯坦认为 “我有意识”、“机器不能思维” 等命题都不是经验命题，而是语法命题。

造成机器有 “思想” 或 “生命” 的直觉的另一原因是它相对于有限之人的复杂性。它是数千名工程师们分工合作的结果，没有任何一位工程师充分了解其中每个部件。因此任何人观看复杂机械之 “整体” 时，都无法用纯分析的眼光看它。然而设想一位长生不老的工程师，用几万年的时间独自造出一台复杂到通过图灵测试的机器；而且他患有类似超忆症的病，对其中每个最小零件都烂熟于心。那么这位工程师就能用纯分析的眼光看这台机器，不会将它区分为实现 “功能” 的 “模块”，更不会产生 “它是生命”、“它有思想”的幻觉。

“机器能否思想” 之问题的产生，不在于机器运作的基本原理不明，而在于人的有限性导致人类将机器从整体上直觉地把握为 “有思想的”。然而只要机器程序仍能被还原为确定的物理规律，它就仍不是 “有语言的”。时刻谨记这一点的人即便遇到一个能够长期和人类共处而不露破绽的机器人，理性也会判断它其实不 “思想”；尽管这样的机器仍会唤起我们不可抑制的本能，从整体上直觉到它的 “生命” 和 “思想”。经反思的世界观时常是反直觉的：生活世界中的太阳 “东升西落”，但物理科学中并非如此。这并不妨碍我们继续说太阳东升西落，并在谈及天文学时换用物理语言。本文面对的问题更棘手些，因为它涉及价值问题：为了培养善良、减少残忍，是否该立法保护通过图灵测试的机器呢？是否应当禁止虐待它们，或禁止在孩子面前拆除它们？植物没有痛觉，龚自珍却认为扭曲的盆景有损人性教养，虐待在现象上与人无异的机器岂不更有害？这些价值问题的根源不在机器，而在于人类——亿万年生存竞争幸存者的后代们——无法抛弃对 “生命现象” 的直觉辨认，无法阻止自己将机器辨识为一个生命。或许人类本就不该将机器研发的方向定为全面模仿人类，这并非它擅长之事；机器人不必是人的摹本，因为人类本身亦不完美。

 

结论：

 

机器运作的原理是物理的，仅靠物理概念却无法构造出生活世界；有限之人的直观是对技术现象的直观，而非对物理原理的直观。这使得我们在判断某物是否有 “思想” 时，从两个截然不同的标准中得出了矛盾的答案，导致了 “机器能思想吗？” 这个哲学困惑。机器中的物理运动无所谓对错，而语义的逻辑规则不是物理的，其中超越物种的范畴和概念关联的固有限制不是被 “编” 出来的，因为语言的逻辑展现了世界的构造，在这个世界中它们不可能被有意义地编成另一个样子。

人类设计的机器如果是物理上确定的，它即便完美地通过图灵测试，仍不在 “思想”；如果机器以不确定原理运作，它的输出结果则只会是真随机数，无法通过图灵测试。由于量子意识论猜想即便为真也无法被证明，即便未来某台机器中的量子 “觉醒” 了，我们也无法确定它是否是人工制造的成果，因为它在原理上仍与演化史上的 “意识的诞生” 同样不可思议。未来人类也许能以原子级精度复制一颗人脑，却不能说人类设计了它。

本文旨在不让理性与直觉之间的矛盾被误解为理性内部的矛盾。我们无法以取消迅速判断一个 “生命” 会不会 “思想” 的直觉来化解这一矛盾，因为这既不可能也不可欲；澄清矛盾的工作，是为揭示 “机器能思想吗” 不是一个科学问题而是一个哲学困惑；也就是说，不是机器和它的物理原理的问题，而是有限之人和他的语言的问题；不是一个真理的问题，而是一个幻觉的问题。

​​​​