对谈金观涛，余晨：为什么人工智能革命的本质是现代科技的“脱嵌”？

巨浪已至：科学技术发展及其脱嵌

2015年1月中旬，“双体实验室”举办了一次关于人工智能的小型讨论会，由林峰担任主持和提问，金观涛、余晨回答相关问题，从哲学认识论角度反思了人工智能的过去、现状和未来，刘青峰也加入讨论。会后，林峰、宋福杰、徐书鸣进行了书稿整理，金观涛、刘青峰对讨论稿做出重新梳理和表述，林峰、余晨参与最终定稿。这次讨论会的参与者还有桑田、宋福杰、李金茂、袁振、曹方麟、刘蘅、简直等。感谢刘蓬先生资助并参加了这次活动。

本文是这次讨论会文稿的节选。讨论会全部文章收录于金观涛《我的哲学探索》一书别册《关于AI的对话：智能的过去、现在与未来》

与谈人简介

金观涛

生于1947年，现任中国美术学院南山讲座教授、香港中文大学中国文化研究所高级名誉研究员。主要著作有《系统的哲学》《历史的巨镜》《轴心文明与现代社会》《消失的真实》《真实与虚拟》。与刘青峰长期合作研究，合著代表作有《兴盛与危机》《开放中的变迁》《中国现代思想的起源》《观念史研究》《中国思想史十讲（上卷）》。

林峰

毕业于西安交通大学，长期从事电信与互联网设备领域的硬件研发与供应链管理工作。著有《“理解”供应链——系统论视角下的供应链概念》。双体实验室播客主理人。

余晨

易宝支付联合创始人、总裁，易宝公益联合发起人，元宇宙与人工智能三十人论坛理事会理事，2019、2023年度中国公益人物，复旦大学哲学课堂客座教授。著有畅销书《看见未来：改变互联网世界的人们》。双体实验室总顾问。

刘青峰

香港中文大学中国文化研究所名誉研究员，香港中文大学《二十一世纪》双月刊创刊编辑。毕业于北京大学，曾任郑州大学教师、中国科学院副研究员，《自然辩证法通讯》编辑。著有《让科学的光芒照亮自己》《公开的情书》。与金观涛长期合作研究，合著有《兴盛与危机》《开放中的变迁》《中国现代思想的起源》《观念史研究》《中国思想史十讲（上卷）》。

林峰

2022年11月ChatGPT的问世，是21世纪20年代最具标志性的事件之一，人工智能（AI）如海啸掀起的巨浪般汹涌而来，令人措手不及。我记得，在ChatGPT问世一周年时，金老师曾和我就ChatGPT会不会在两年之内普及打过赌，金老师，您今天怎么看？

金观涛

现在看来是我输了。我是20世纪的人，对21世纪那些新玩意儿，比如直播如何赚钱，没什么感觉，只是感到很新奇。我对计算机的具体技术细节不太了解，又缺乏编程的实感，要弄清楚ChatGPT真不容易。我长期做宏观大历史研究，想问问各位是否想过：今天，也就是2025年1月12日，这个日期意味着什么？它代表的是21世纪过去四分之一了。对于我们在20世纪中期出生的人来说，真有点不可思议。

在21世纪即将来临时，青峰和我在香港中文大学《二十一世纪》杂志上策划了展望新世纪的专题讨论。现在回头看当年中外学者的那些文章，不少是从轴心文明视角谈冷战结束后的文明冲突，谈全球化命运，也有谈互联网技术的。20世纪是革命的世纪，科学上继相对论和量子力学后，人们期待在21世纪能出现又一次科学大革命。

但谁都没有预料到，21世纪过去四分之一了，科学革命并没有发生，却是人工智能对人类社会产生了颠覆性的冲击。今天，当人工智能革命巨浪已至，以不可抗拒之势进入人类生活的方方面面时，所有人都面临一个问题：我们如何认识人类历史上这种前所未有的新技术？

刘青峰

我想起魔法师的徒弟的故事，我们好像那个学艺未精的徒弟，施魔法让扫帚替自己提水，扫帚不停地灌水，水越涨越高快要将其淹没时，他却没法让扫帚停止了。今天的人工智能好像掌握了常人不懂的魔法，其无所不能，让人不禁怀疑它是否仅仅是一种技术。当原有的哲学认识论不能使人们在理解人工智能上达成共识并以此预判它对未来的影响时，就出现了极端的乐观与悲观论调并存的局面。

金观涛

你说的这个故事维纳也讲过。现在有种说法：人类正面临第三次技术大革命。第一次是农业革命，第二次是工业革命，第三次就是人工智能革命。这种说法有大历史的眼光，但并不准确，没能走出经济/技术决定论的桎梏。我认为，从长程来看技术和社会的关系，农业技术是人类建立跨地域文明所需要的技术；工业革命则是在轴心文明进入现代社会的转型过程中，巿场经济和科学技术从传统社会有机体脱嵌出来的结果。随着现代社会全球化的展开，必然会出现当前的人工智能革命。与科技从传统社会约束中脱嵌不同，它是科技自身的脱嵌，即科技逐渐与人的主体之间的脱嵌。这一点，我会慢慢展开来讲。

林峰

人们通常认为，技术是建立在科学理论之上的，是科学理论（知识）的运用。在《消失的真实》一书中，您曾分析了为什么在现代科学真正确立之后，不会再出现库恩所说的范式转移，即“科学革命”。那么，为什么在现代科学理论不再革命的前提下，还会出现人工智能这种独特的—用您的话说是科技与主体脱嵌的—新技术革命呢？

金观涛

我不懂计算机的技术细节，近几年，我先后出版了《轴心文明与现代社会》和两本“真实性哲学”的著作，我只能通过把聚焦轴心文明起源和演变的大历史观与对科学真实的研究结合起来，去思考技术和社会的关系，去反思人工智能革命。我认为，仅停留在技术是科学理论（即认知）的运用这个层面是远远不够的。为什么这样讲？出现某种对人类社会影响深远的重大技术，除了涉及人控制自然的能力和认知的能力外，还要考虑其对应的社会组织对科学技术发展的“容量”。

一种新技术带来社会的巨变，是人类将对自身和自然的认知转化为对自然的控制，它和文明形态是互相依存的，研究这一过程需要更为宏大的视野。举一个例子。辛顿说，今日我们是用旧石器时代的大脑来应对“神”一样的技术。实际上，今日人的大脑和旧石器时代人的大脑并没有太大差别，真正的问题在于：为什么同样的大脑，要到今日才能发展并掌握人工智能这种“神”一样的技术？

对于大多数计算机工程师来说，并不需要思考人为什么有智能，以及人对智能的认识是怎样发展的。但这一点恰恰是很重要的。在自然界已知的200多万种物种里，人是唯一的符号物种，自其起源以来这一点从未改变过。所谓符号物种是人的主体性和获得知识能力的结合。主体性表现在人可以超越经验世界任意地设置符号；而智能是获得经验知识和符号知识的能力。从主体性和获得知识能力的角度看技术，就会有一种大历史视野，发现人工智能出现的必然性。一万年前的农业技术是人类形成跨地域定居文明的必要条件，此后，人类才进入轴心文明时代以及传统社会；科学技术革命则是与传统社会向现代社会的转型相联系的。伴随现代社会的进一步展开，人的主体自由不断扩张，科技能力一定会和主体发生某种分离，人类早晚有一天会面临人工智能的挑战。这就是今天的AI革命。

林峰

我记得您在《真实与虚拟》一书中把真实性分为科学真实、人文社会真实和个体真实三个不同的领域。您认为自人类起源后，先形成的是个体真实和社会真实，社会真实的扩张导致跨地域文明的建立，而后在轴心时代古希腊文明中，科学真实才从社会真实中独立出来。更重要的是，书中还指出，在科学真实的领域中，智能是主体在做受控实验（观察）的过程（操作和感知）中获得信息的能力，例如一个人设计科学实验的能力，或者编程的能力。科学领域和人文社会领域的不同之处是，主体在获得信息与实行控制时，前者是主体可以悬置的。

您今天是从这个角度来讨论人工智能的吗？

金观涛

可以这样讲。其实，主体和科技的关系非常复杂，今天的讨论不可能详细讲，如果想深入了解，还是要去读《真实与虚拟》。简单来说，人是符号物种，人可以用符号把握世界，这才具有了动物不可能有的智能。主体是在个人真实中起源的，随着社会的建立，人就成为主体（发明符号并用符号来沟通）与智能的结合体。在人的各种智能中，只有科学智能可以和主体分离。因为科学真实是基于普遍可重复的受控实验（观察），控制变量中可以不包含主体，即主体可悬置。这是科学真实中智能可以独立于主体而存在的原因。

在传统社会，科学真实处于社会有机体的束缚之下，不能无限制地扩张，当然不会和主体分离。因此，在现代文明充分展开之前，只发生过农业革命和工业革命。科技智能和主体的分离，只能发生在科技高度发展的全球化现代文明中。

我们可以粗略地看一下人类社会形态的变化与智能的关系。人类起源时的社会形态是几十到一百多人的部落，人类的生活方式是游荡状态的巡猎和采集，其科技智能主要表现在狩猎、识别动植物与适应不断变化的环境等方面。而与人类建立跨地域文明的漫长过程相匹配的，是农业科学技术相关智能的发展及革命，继而形成有集约式农业的定居形态以及复杂的社会组织。跨地域文明形成后，文明演化进入轴心时代。轴心文明的展开和融合形成了现代社会。现代社会是基于个人自主的契约社会，它是“人应该是自由的”这一价值的投射。在现代契约社会，人的自主性得到空前的肯定；市场经济和科技创新不再受到传统社会有机体的约束，得以爆发式增长。科学智能大发展并转化为维系现代社会的种种新技术，这就是人们常说的工业革命。科学技术无限制地发展，必然会导致科学真实领域中的智能与主体的分离，人工智能就是最明显的例子。工业革命是现代社会刚形成的最初阶段人类在科学真实领域中智能的扩张，现代科技智能的进一步发展必然会出现它与主体的分离，这正是人工智能在21世纪20年代的全球化中凸现的原因。

林峰

金老师，您在《真实与虚拟》中把经验世界理解为大脑神经网络输入与输出的稳态，并用此来解释为什么虚拟世界亦是经验真实的一种形态。从这一角度看，所谓人类发明新技术实为神经网络输入与输出的扩充。而人工智能这种新技术和以往所有技术的不同之处在于，它是用一个人造神经网络和外部世界耦合，通过学习获得大脑神经网络和外部世界耦合的各种新稳态。人造神经网络的输入和输出不再只是人类大脑输入和输出的简单延伸，而是形成一种和大脑智能同构的系统来处理经验，但主体不一定知道人工系统是如何做到这一点的。也就是说，人工智能意味着实现了科技智能与主体的分离，这其实就是您前面提出的“科技自身的脱嵌”的含义，我这样理解正确吗？

金观涛

正确！我在《真实与虚拟》中指出：主体的任何感知和控制都是基于大脑神经系统的电脉冲与神经递质的变化。主体获得信息和实现控制，作为对象可能性空间的缩小，都可以还原为神经脉冲（时间序列结构、组合空间）可能性空间的缩小。不论科学经验是什么，它们或作为感知（作为输入的神经系统脉冲集合的可能性空间缩小）的稳态，或作为控制（作为输出的神经系统电脉冲集合的可能性空间缩小）的稳态，或作为两者关系（感知如何规定控制和控制如何规定感知）的稳态，既可以通过主体的感官（人的神经系统）达成，亦可以用一个人造的神经网络输入与输出之间的互动来实现。正因为如此，技术作为神经网络输入和输出的扩张有两种方式。一是大脑神经网络直接向外部世界延伸，即使用工具和仪器与外部世界耦合，这就是发明新技术。新技术往往对应人某种能力的放大，比如望远镜是人的视力的放大，耳机是人的听力的放大，电脑则是人处理信息能力的放大，等等。二是用一个人造神经网络和外部世界耦合获得信息并实行控制，这就是人工智能。在第二种方式中，学习能力是和人的主体分离的，今天的人工智能革命证明了这一观点。但需要说明的是，这种主体与智能的分离仅仅存在于科学真实的领域，它是现代社会和科技发展的一个必然结果。关于这一点，我会在后面的讨论中展开。

余晨

我补充一下金老师讲的观点。所有的技术革命—无论是农业革命还是工业革命—替代人类的都只是一些外在的东西，比如胳膊、腿，是我们肢体能力的延伸。这时，我们对技术的关注重点主要在于效能。但人工智能可能替代大脑或者说神经网络，这时我们关注的重点就变成人工智能和人脑是否具有同一性，不只是人工智能是否和人脑具有一样的功能，而是两者是否有一样的实现（implementation）。我认为，人脑和机器只是同构，二者并不具有同一性，而且这种同构性是在数学和算法意义上的。

统计学家乔治·博克斯有一个说法：“所有模型都是错误的，但有些是有用的。”因为所有模型都无法完美地复制现实。比如我们可以用一个圆来代表太阳，几何学上的圆与太阳不具有任何同一性，只有某种同构性—因为太阳也是圆的。人工智能甚至都不是用一个圆而是用一个多边形去模拟太阳，但无论如何模拟，二者都不是一个东西。

就像金老师说的，人工智能革命带来了智能与主体的分离，但我们也要注意人造神经网络与人脑始终不是一回事，只是具有同构性。

金观涛

余晨讲得十分好。在科学真实领域，智能和主体分离意味着人造神经网络是没有主体的，它的“智能”和人的智能不是一回事。据此，我们可以把科学智能和主体的分离称为“脱嵌”。

我在《轴心文明与现代社会》一书中指出：在现代社会出现之前，市场经济和科学技术是嵌入社会有机体内部，不能无限制地扩张的。现代社会的形成意味着市场经济和科学技术从社会有机体中“脱嵌”而出，纳入一种容量可以不断扩张的新社会组织形态，也就是现代契约社会之中。当现代市场经济和科学技术高速发展带来了全球化，而全球化又不能纳入民族国家间良好的国际秩序时，就会导致现代社会的危机，这就是20世纪发生的两次世界大战和二战后的冷战格局。20世纪末冷战结束，随着新的全球化浪潮兴起，进入21世纪后，我们再一次看到全球市场经济与民族国家组成的世界秩序之间的冲突所带来的种种危机。而现在，人工智能革命又将制造新的挑战。

很多人认为人工智能迟早会涌现出意识，从而处在对奇点来临的幻想之中。而另一些人则认为这是迟早会破灭的大泡沫，并开始思考泡沫破灭对经济的冲击。我认为，不能仅仅用工程技术的眼光来思考人工智能，甚至不能局限于科学本身来思考人工智能往何处去。更重要的是，要看到人工智能革命的本质是现代科技的“脱嵌”，它才刚刚开始。

以往在讨论市场经济从传统社会有机体中“脱嵌”导致生产力快速增长时，也涉及科学技术在人类生活各方面无限制的运用，但这些科学技术和主体是结合在一起的。现在人工智能革命发生了，科学技术和主体的分离涉及现代科技本身“脱嵌”的全新问题。与全球市场经济“脱嵌”所带来的问题一样，人工智能的种种形态、它的快速发展以及广泛应用，势必会引起社会生活形态的巨大变革，这是当代人类要长期面对的问题。因此，我们需要反思，摆脱幻觉，并从狭窄的专业中走出来，回到长程的历史思考中，这是我们今天对话的目的。

文章节选自《我的哲学探索》一书别册《关于AI的对话：智能的过去、现在与未来》

《我的哲学探索》

内容简介：

这本书是一个以思想为志业的学者，毕生探索历程和研究成果的集成之作。40年间物换星移，从青葱年代到暮色将至，思想者的岁月波澜壮阔。而数十年如一日地苦苦追求真理，不仅要有直面骄阳的魄力，还需耐得住长久的孤独，接受可能的失败。尤其是在如今理想主义不再流行，人文精神被科技热潮消解殆尽的时代里，许多人可能不禁要问，这样的哲学探索究竟有何意义呢？当现代世界深陷精神困境，大多数人或是选择激流勇退宣布“哲学已死”，或是躲进被后现代粉饰的对立狂欢，或是藏在思辨游戏的安乐窝里假寐。孤独的思想家仿佛只身行走于幽深密林。

对探索的坚持，是因为唯有哲学思想能给我们答案——要走出因真实性丧失带来的困境，我们需要梳理自现代化起源以来，哲学作为普遍观念对人类社会造成的深层影响。今日种种，不过是思想的潜流在海平面激起的汹涌波涛。而一种现代的哲学，势必要能够整合起自20世纪以来科学发展的成果，讲清楚人工智能浪潮及其背后的量子力学革命，以一种崭新的思路去考察因科学进步而需要重新理解的古老哲学命题。究其根本，回答一个基本问题——在客观世界不存在的情况下，人类如何理解自己的存在，现代人的价值和终极关怀去哪里寻求？只有用哲学再次证明人具有思想的自由，证明科学以人为中心，我们才能摆脱人会成为工具的焦虑，以及人将被机器取代的恐惧。用现代哲学捍卫人之为人的意义，重建洞察世界的信心。让我们从先行者那里继承精神与智慧，越过重峦叠嶂，向着未来更为开放的理性，勇往直前。