 2023年4月30日，媒介域联盟第六季“万物·媒介”读书会举办了第二期讲座。本讲由清华大学科学史系副教授胡翌霖领读《人有人的用处：控制论与社会》，清华大学新闻与传播学院副教授吴璟薇担任主持人。现推送此次讲座文字纪要，以飨读者。 目录 catalog 1.1 开场 1.2 维纳的生平 1.3 书名的翻译问题 1.4 两种机器观（哲学背景） 1.4.1 对前定和谐的批判 1.4.2 驾驭偶然性 1.5 从机器观到生命观（动物学背景） 1.5.1 遗传与适应 1.5.2 两种反馈 1.5.3 人与动物的区别 1.6 追问社会理想 1.6.1 学习的社会 1.6.2 反馈机制的必要性 1.6.3 认清机器的位置 1.7 线下问答 1.7.1 机器能负责吗？ 1.7.2 交互反馈式的和谐可能吗？ 1.7.3 维纳的独特性 1.7.4 短期套现问题与确保长期责任的机制 1.7.5 心灵认知问题 1.7.6 责任主体问题 1.1 开场 吴璟薇：各位在线的朋友，各位长期关注媒介域联盟读书会的各位书友们，大家好！我们今天非常荣幸的请到了清华大学科学史系的胡翌霖老师，来领读维纳的一本非常重要的经典书《人有人的用处》。相信大家对于控制论都非常的熟悉，尤其今天在这样一个ChatGPT或人工智能高度发达的时代，人和技术之间的关系是什么，是一个长期探讨的经典话题。所以，在当下控制论也成为讨论人和机器关系的一个核心理论。 去年，我们曾经邀请过香港城市大学的许煜老师来领读《递归与偶然》，许煜老师也说了，其实《递归与偶然》都是在讨论控制论的，特别巧，我们今天也能够通过维纳这本《人有人的用处》来讨论控制论的问题。 值得留意的是，它是《控制论》的姊妹篇，上一册《控制论》中有大量的公式，对于文科背景的同学和学者来讲是非常难以理解的。为了帮助大家从社会或者是文化的角度去解读控制论，维纳在《控制论》之后又写了《人有人的用处》。 今天我们邀请到了科学史系的胡翌霖老师来给我们做这个分享和讲解这本书。胡老师是北京大学哲学系的本科、博士，现在是清华大学科学史系的副教授，主要研究方向是技术史，技术哲学。胡翌霖老师在清华大学也开设了媒介史相关的课程，也是横跨科学史和新闻传播领域的一位学者，另外在新闻传媒学领域的期刊也发表过很多文章。相信大家对胡老师都非常的熟悉了，之前可能读过《媒介史强纲领》，还有《什么是技术》，以及《技术哲学导论》，今天非常期待胡老师带我们来从社会学的视角来解读控制论的相关问题。   1.2 维纳的生平 胡翌霖：好的，谢谢吴老师的邀请，我也是过来班门弄斧，就是因为大家对控制论肯定是多少都有些熟悉。我也不能说非常熟悉，只是和大家讨论吧。 这本书，刚才吴老师也介绍了，是一个姊妹篇，是维纳写完《控制论》之后写的，你可以说是一个入门版，或者是一个普及版。但是某种意义上，其实不是普及控制论，反而是控制论的更为基础的思想背景。我接下来会讨论这个事情，某种意义上说控制论的基础不是一个纯技术的或者说数学的一个事情，它的基础其实就是从哲学社会科学来的。 这个维纳呢，大家应该也很熟悉。我们说整个信息科学，或者说计算机科学，有几个非常重要的大师推动了它们的发展，这个维纳肯定算是其中之一。但是呢，比起图灵，香农，冯·诺伊曼等等其他的一些人，维纳的地位或者说贡献被认为是受到低估的。比如说，中国有一个维纳的大粉丝——王飞跃老师。他经常鼓吹维纳的贡献，他认为维纳的工作直接帮助四个人获得三个诺贝尔奖，包括波恩、海森堡、沃森和克里克。冯·诺伊曼说第一台冯·诺伊曼机的模式其实也是维纳的思路，其实是把维纳的原则整合起来。还有香农的信息论很厉害，但据说香农其实只是改了一下维纳的正负号，而且信息论在很大程度上要归功于维纳的哲学。另外，我们现在看到印度人在软件业那么强，为什么印度那么强啊？除了他们英文强以外，还有一些教育基础，王飞跃老师说，这其实也是维纳奠定的。维纳其实晚年一直是在印度，推动信息科学普及教育。这本传记，就是讲他是信息时代的一个隐秘英雄，dark hero，翻译过来就是幕后大佬的意思。这些当然都是一家之谈，其实维纳也未必说那么强，但肯定是很重要的。  我们在讲那个书之前先暖暖场，稍微讲讲八卦：维纳和我们中国，特别是和我们清华的渊源非常深。维纳有一个得意门生叫做李郁荣。这张照片就是维纳和李郁荣，最左边是李郁荣，右边是维纳，中间还有一个是博斯，是李郁荣的学生，就是Bose耳机的创始人。  后来李玉荣回到清华任教，又把维纳给邀请到清华来讲学，做访问学者。维纳其实是有机会在中国交流更长时间，他还写信给冯·诺依曼力邀他来中国。但是之后正好是日本侵华了，时局不安全了，这些交流都没有后文了。维纳当时他把全家老小都带过来了，他的女儿在北京上的小学。在清华对于维纳本身来说，也是一个很重要的经历。在他自己的回忆的时候，就说“在我的职业生涯中，如果说有一个分界线，标志着从科学学徒到一定程度上能独当一面的大师，那么我认为是1935年的中国之行。”他和李郁荣在清华大学一起合作做全电子模拟计算机的研究。虽然这个研究没有成功，但是也积累了很多重要的经验。当然了，李郁荣也很重要，但是李郁荣后来是去北美了，死在加拿大，所以我们国内科技史对他也不够重视。  抓紧时间，我最后八卦一下维纳本人，他本身从小就是一个神童，小时候就上报纸了。当时的新闻报道就是说，这个神童维纳小小年纪，不到6岁的时候，别人在读童话书，他不读。他读什么呢？读柏拉图和达尔文。你看报纸上的照片，他脚踩的是什么？神童维纳踩的是《物种起源》。  这个《物种起源》非常重要！下面会讲，控制论，其实它某种意义上很大的程度上就是从进化论来的，进化论是控制论的基础之一。维纳从大学到研究生，他也是跨学科的学习，先是学数学，学完数学以后学了动物学，学完动物学以后再去学哲学。这三个学科其实基本上也是维纳的思想的三个方面，控制论的三个侧面：一个是数学的部分；一个是生物学进化论，神经科学，就是动物学的部分；还有一个是哲学的部分。这个在他的教育经历里头也可以看到一点缩影。 所以他最终的学历其实是哲学。他的哲学也是非常正统的科班出身，他做过罗素的学生，然后到哥廷根学习，又学数学也学哲学，和胡塞尔也有交集。然后，维纳第一份教职也是去哈佛去教授的就是哲学。那之后到了一战的时候，开始进入弹道学研究。再之后其实还是研究哲学。维纳在1943年发表了一篇科学哲学的论文，名为《行为、目的和目的论》，一篇关于目的论的论文。它要阐发的就是人类动物和机器的行为模式。在论文中，反馈、因果循环逻辑，这样一些控制论的核心概念都已经出来了。 维纳之后和冯·诺伊曼一块组织团队，搞成一个学会，这个学会一开始叫做“目的论学会”，你可以看到这个哲学的味道也是非常的鲜明。之后就是著名的梅西会议，1945年开始的一系列的会议，维纳在这个会议中一直是其中的绝对的核心——精神领袖和讨论的核心。最后梅西会议的主题就是“控制论”，但是其实前几年的主题不叫控制论，前几年的名称是“生物和社会科学领域的反馈机制和循环因果系统会议”。所以在控制论这个名词还没有被最终确定下来之前，他们讨论的问题其实是什么呢？讨论的问题不是以信息工程、电子科学、电子科技为中心的，他们讨论问题的中心首先是哲学，是目的论和因果性的问题，这是典型的科学哲学问题。然后还有一个中心就是生物学，动物学，再加上社会科学，这些都写在标题里。所以我前面讲的就是《人有人的用处》，这本书副标题叫“控制论与社会”，这个“社会”不是控制论的沿用，而是控制论的发端。 不是说先有控制论，然后才把控制论延伸到哲学社会科学里头。反过来，控制论的根源就在社会科学里面。他是把社会科学里头的控制论反过来发扬为一个更加全面，更加系统化，更加数学化的这样一个体系。比如梅西会议，哪些学者在参与、哪些文章在报告呢？也是包罗万象的，我们可以去看他的那个会议的内容啊，包括心理学，社会科学，逻辑学，伦理学，语言学，脑科学以及计算机科学……计算机科学只是其中一小部分。这样一个我们现在看来非常跨学科的（包含了文科、理科、社会科学）会议，是非常难得的。而且这些所有的这些领域最终都在维纳的思想当中得到汇聚，所以我们说维纳确实是个神童。我们经常说。谁是“最后的通才”？有的时候有人会说是彭加勒、希尔伯特。在我看来维纳也是算是最后的通才。 八卦讲完了，我们回到这本书，这本书叫做《人有人的用处》，这是一个可以商榷的中文译名。 1.3 书名的翻译问题 这本书英文名字叫做The Human Use of Human Beings：Cybernetics And Society，这个还有点押韵吧，中文里头就是翻不出这个味道…… 这本书呢，之前其实吴国盛老师主持的“高山科学经典”公益项目就讲过这个书。当时讲完了之后，吴老师就提了一个建议，说这本书原来那个中译书名不太好，莫名其妙，你不知道他在讲什么，他就建议说我们就翻译成“把人当人”更好。 我觉得挺好的，虽然有点意译，但是其实更能够把握这个书的意涵。把人当人，你一听其实就明白了，什么叫把人当人呢？就是不要把人当“非人”。什么叫不要把人“不当人”呢？我们现在很多领域就是把人不当作人来用——比如我们经常说社畜对吧，我们当牛做马。就是把人当牛，把人当马，对吧；把人当螺丝钉，当齿轮吗，还有现在叫耗材、人矿……这些都不是人啊，对吧？都不是把人当人！所以他说人有人的用处，或者说把人当人，其实核心就是说：要恰当地发扬人的价值，其实是这本书的一个精神内涵。所以某种意义上，在我们现在这个时代，这本书还是非常有现实的意义，我们之后再讨论。  我们前面讲不要把人当畜生，不要把人当螺丝，不要把人当矿物。我们没有说不要把人当机器。有点奇怪的是，维纳要把人当机器，就是说某种意义上人就是一种特殊的机器，独特的机器，这是维纳自己的原话！维纳说：“一切通讯系统都以机器为终端，但是，普通的语言系统则是以特殊种类的机器为其终端，这种机器叫做人。人，作为终端机器，有一个通讯网络”（引文大多来自《人有人的用处》中译本） 所以维纳说着把人当人，但是你看内容，怎么他又把人当机器了呢？这是一个很奇怪的问题。 1.4 两种机器观（哲学背景） 这个问题就要看维纳的理论贡献——控制论——恰恰就从把人当一种机器来出发。确实，维纳也认为人是机器，人可以当作是一种独特的机器，特殊的机器。但真正的问题是：什么是机器？就是说，把人当作机器，本身没有问题，有问题的是某些人的机器观。他们对“机器”的理解狭隘了。 我们说起把人当机器呢，经常就会想到近代的整个的机械论传统，对吧，比如就有一本书就叫做《人是机器》，拉·梅特里写的。这就代表了一整个以牛顿力学为代表，从笛卡尔到牛顿这个机械论传统之下的这样一个观念。这个观念延绵至今，到现在其实又有了一些新的形式，比如说计算主义，数据主义，就是人无非就是计算机。这些观念当然是有道理的。我们说人是机器人，是计算机，这些这个观念都不错，但是你要注意机器的特点究竟是什么？  维纳在这个书里头其实就一直贯穿着两种区分，就是有两种观念和两种机器。第一种就是我们可以叫做机械论的观念，一个比较传统的牛顿式的机械论的观念；第二种是维纳自己的现代的控制论的机械观。而相应地有两种机器：一种是符合于牛顿机械论的，这样一个机器，典型的就是莱布尼兹设计的莱布尼兹计算器。这种机器以及这种观念，其实都有一个基本的特点，就是整个世界是一个决定论的，是一个充满确定性的一个世界。包括之前说的人是计算机程序，某种意义上也是这样的意思，因为它是非常确定的，你给他一个初始的数据，它就可以得到一个确定的结果。而维纳强调的是不确定性。具有不确定性的、典型的机器就是学习的机器，其实最典型的形态在维纳那个时候还没有完全造出来，其实我们现在看到的，这些人工智能、机器学习、深度学习某种意义上已经比较充分地实现了维纳所说的这个学习机器，我们之后再会讨论。 这两种机器是很不一样的，学习的机器代表了不确定性，它是要随机应变，要不断的和外界互动，然后不断地接受反馈，从而能够“成长”的。它不是一架死的机器摆在那儿，而是一个会成长的机器，会学习会成长的机器。我们带着这两种观念，两种机器观，我们接着梳理维纳的著作。 1.4.1 对前定和谐的批判 我刚才提到了莱布尼茨，他在维纳这本书里也是经常被提到啊，经常作为一个比较反面的形象被提到。莱布尼茨的宇宙观非常的独特，非常的出名，它的计算器也是在历史上也非常的重要。他的宇宙观中，特别被维纳提及的是单子论。 莱布尼茨当然也共享了从笛卡尔到牛顿的这个机械论的这样一种世界观，他把机械论世界观推到了极致，这个极致就是一种非常奇葩的原子论，这种原子论叫做单子论。什么意思呢？这个世界的基本的元素或者说不可分的基本元件是“单子”。这个单子是“没有窗”的，这是莱布尼兹哲学的一个基本概念。“没有窗”是什么意思呢？就是说单子是完全封闭，每一个单子与每一个单子之间其实是没有通讯的，就是说没有交流或者说传播的啊，单子和单子之间是完全隔绝的。但是我们的世界不是充满联系吗？我这儿拍一下，那边就动一下，那怎么能说它们完全隔绝没有交流呢？莱布尼茨就说了，这就叫做前定和谐。什么叫前定和谐呢？就是说每一个单子内部都有一套，用现在通俗的话来讲都好像有一套程序。每一个单子内部有一套程序，它告诉你，你什么时候会感觉到发生了什么。但是呢，这个程序的所有的运转都是在一开始上帝创世的时候就设置好了。上帝给每一个单子，或者每一个人，每一个人的灵魂，都编好了程序。在这之后，他们都是没有交流的，按照既定的程序运转。比如，我跟吴老师是没有交流的。我们面对面说话其实也是没有交流的。但是呢，我为什么会感觉到我们有交流呢？是因为我们那个程序写好了，从一开始这个上帝就把那个程序都编好了，让你觉得啊，在一定的时间会交流，就是我在某一个时刻觉得我在跟吴老师交流，然后吴老师在某一个时刻觉得她在跟我交流，但其实我们没有交流，仅仅是因为我们都觉得在交流，所以好像这个世界是充满联系的。这是一个很奇葩哲学理论，我不细致展开讲他的哲学理论了。 按照维纳的说法，莱布尼茨发明的计算器，包括之前的帕斯卡计算器，以及到之后的机械式的计算器，都是异曲同工的。这个单子论在哲学层面上还是听起来很玄乎，但是他做出来那个机器就告诉你例子了——他这个机器就是一个单子。什么意思呢？这个机器是个封闭的机器。这个机器只要一次输入，这个输入就像上帝创世一样，你输入一个数据，然后就一通手摇式。我好像之前参加这个媒介域读书会时，就是跟大家讲过这个计算器，对吧？就是这种手摇式计算器，比如你要算几乘以几，你把那个算式、这两个数字输入进去，调拨一下那些齿轮，调拨好了然后你就开始摇，摇动那个计算器，摇摇摇……到“咔”一下停了，你就能够把那个结果读出来了。这个你需要摇半天才得出结果，但是呢，这个结果其实在你开始摇之前就已经注定了。是吧，大家可以理解，这样一个就是叫“前定”的结果，因为当你把那个算式输入到这个计算器上的时候那一刻，这个计算器会出什么结果就早已经注定了。 只是他还需要一个过程来实现，实际上用手去摇一摇，把这个结果给实现出来这样一个时间，所以这个叫做前定的计算器，对吧，就是说你一通手摇啊，最后是输出的结果不会变化，你不会说你手摇得快一点，你结果就变了，或者说手摇得慢一点，结果就变了。结果和手摇的过程没关系，在整个过程里头，这个计算机器和外界其实是没有信息的交互的，没有通讯。他只是完成一个把既成的结果给它展现出来这样一个事情。 所以说那个无窗的单子和这个封闭的、闭合的计算器，它有基本的一些共同点，这个共同点首先是确定性。它没有面对不确定性，没有几率性。它的结果是前定的啊。当然这个“前定和谐”是哲学界翻译单子论的时候常用的术语。在这本书里头的翻译是叫“预定和谐”，差不多意思：这个结果是之前就预定好了的。 维纳是怎么评论的啊，就说这个“莱布尼茨把调整在同一时刻的时钟给出时间的一致性看作是单子预定和谐的模型”。在这样的世界观、这种机械观之下，维纳给了一个比喻：八音盒上跳着舞的小人的动作。它们是按照这个模式而运动的，这个模式是预先安排的模式来运动。然后这个八音盒呢，除了你给它上发条，让它去动之外，它没有和外界通信的痕迹，就这个小人是这个“又聋又哑”的。  1.4.2 驾驭偶然性 刚才我们讲人是机器，维纳也说人是机器，但是维纳一定要强调人不是这种机器，对吧？一定不能把人当作这种八音盒式的小人这样的机器，这种机器就是莱布尼茨的机械观下得到的图景，就是说人完全都是预定的，那些看起来很丰富的事情，蹦蹦跳跳啊，载歌载舞啊，其实啊，都是在完成一些早已经预订好的轨迹，这个轨迹从这个宇宙被刚刚设定出来之时，就已经一切都已经注定了。所以维纳强调的就是，“我们一定不要把八音盒设想作一切机器行为的典型”。八音盒不是典型的机器。 这里头有一个宇宙观的区别，或者基本哲学的、存在论上一个区别，就是说这个世界本质上是什么样的？在牛顿、莱布尼茨这样一派世界观之下，这个宇宙是确定性的，我们前面讲，这是一个前定的、预先决定的，你只要知道初始，就没有什么意外的这样一个世界。这个观念是维纳重点要去反对的东西，所以他在《人有人的用处》的序言，副标题就叫做“一个偶然性的宇宙观念”。所以说我们看到，整个地维纳的哲学，或者整个维纳的控制论，它都奠定在对牛顿宇宙观的颠覆，以及一个充满偶然性的新的宇宙观的树立之上。 他就开篇就说“牛顿物理学曾经从十七世纪末统治到十九世纪末而几乎听不到反对的声音，它所描述的宇宙是一个其中所有事物都是精确地依据规律而发生着的宇宙，是一个细致而严密地组织起来的、其中全部未来事件都严格地取决于全部过去事件的宇宙……现在，这种观点在物理学中已经不居统治地位了，而对推翻这种观点出力最多的人就是德国的玻耳兹曼和美国的吉布斯。” 牛顿物理学曾经从17世纪末统治到19世纪，这个几乎没有反对，但是呢，现在这个物理学里头已经推翻了。牛顿物理学的特点就是全部未来的事件都严格地取决于全部过去的宇宙，这样一个确定性的世界。当然了，维纳重点讲的实际是统计力学方面的贡献，一个是玻尔兹曼，一个是美国的吉布斯，他对美国人更加推崇，对美国的吉布斯说得更多一点。玻尔兹曼和吉布斯对统计力学作出了一些很重要地推进，不过在维纳他写这个的时候我们之后说的混沌科学、复杂性科学，它们还没有流行起来，之后混沌科学、复杂性科学逐渐流行起来了，其实也可以继续佐证维纳的判断。维纳也提到其他一些领域，包括量子力学——量子力学在存在论上、在宇宙观上也是用偶然性、几率性取代了确定性。所以，维纳是从这样一个偶然性的角度来展开他的控制论，或者说他的信息科学，那么他的信息科学要做的一件基本的事情是什么呢？  就是要去驾驭偶然性。就说某种意义上说，他《人有人的用处》的修订版是1954年出版的，修订的时候香农的信息论已经出来了。维纳也是欣然接受，也没有说香农抢了我的创意什么，但是他要强调这个信息论不限于电子科学，不限于电工理论。在维纳之后，其实很多时候，信息论是被狭隘化了，它更多的就变成信息技术，信息科学都变成那个电子工程的事情。回到维纳，他强调信息论不是一个电子科技的问题，主要还是一个更广大的领域，这个领域包括语言的研究，包括机器的和社会的控制手段的研究，包括计算机、自动机、心理学、神经系统、科学方法论，等等。就是把这些东西都应该包括到这个信息论、信息科学里头。而这个主要的一个核心的观念就是这个信息论是要去解决一个几率性的理论，也就是说这个几率性、这个偶然性的问题。就是他后面讲信息到底是什么啊？信息，香农也是用熵来定义的，维纳也是用熵来定义的。只是维纳更强调它这个偶然性，“接收信息和使用信息的过程就是我们对外界环境中的种种偶然性进行调节并在该环境中有效地生活着的过程”。 就是说信息科学要解决一个什么问题？解决的问题就是这个世界是偶然的，是吧，我们前面已经讲世界观切换了，但是我们没有办法深入地多讲，我们就先承认了世界观已经切换了，牛顿已经过时了，我们有一个新的偶然性的世界观。但偶然性的世界观，一定不是一种虚无主义的——哎呀，这个世界啊，风云莫测，就啥都别管了，反正什么都没有定数啊，对吧？不是这样。这个世界充满偶然，所以恰恰也更需要去科学地应对它，科学要干嘛呢？科学要去“驾驭偶然性”。 什么叫驾驭偶然性啊？一个典型的例子就是航海。在风浪莫测、风云变幻的那个海域当中。你要去驾驭一艘船只，你要做什么事情？你要做的一定不是那种：我在出行之前就编制好程序，然后一切都规定好，该什么时候几点几分往左转，几点几分往右转，不是的。要实时地观测啊，起风了你得怎么做？大浪来了你得怎么做啊？所以你时时的要去观察，这些偶然的风云莫测，这样一个世界的变化，然后实时的和它交互，然后不断地接收反馈。 所以维纳的“控制论”这个词就是，把希腊文的那个舵手、掌舵的词汇引过来，发明了控制论（cybernetics）这个词汇，其实就是一个核心隐喻：控制就是去掌舵。掌什么舵呢？就是因为这个世界是偶然的，世界是风云莫测的。所以我们再回到前面讲的这两种世界观啊，这两种世界观和两种机器的模型。 回到两种机器和两种世界观。一种是单子论，一种是维纳的控制论，就是控制论是驾驭偶然性。单子论是前定的，闭合的东西，所以这个单子论或者是机械论、宇宙观代表的，就是由神输入了第一推动，之后就闭合了之后，整个世界就闭合了啊，是一个绝对确定的东西。而在这种观念的指导下做出来的机器是什么样的呢？就比如机械钟，这个机械钟怎么走啊？完全由他自己的一个内在的节律，通过一个擒纵机构，它要把外部的那个偶然性给它剔除掉。然后还有计算器，莱布尼茨式的这个手摇计算器，然后还有八音盒，对吧？这些东西是典型的闭合机器：就是你单向输入之后，这个就闭合地去运转。它的结果也是预先注定的。 而在这个“有窗的”，或者说控制论视角下的一个生命，或者是人，他是什么样的呢？很重要的一点就是人是有感官的，维纳非常强调，说人是机器，不代表说人没有感官啊，之前的机械论者，就完全是贬低人的感官，贬低人的情绪，觉得人的本质就是理性的逻辑的，对这些东西比较看重。但是维纳会强调，人很重要的一点是它有感官。但是这不代表人不是机器，因为机器也应该有感官，有感官这件事情非常重要。 感官干嘛的呢？感官就是那个“单子”的窗啊——他不是单子，他是和外界是互通的，他要实时的和外界进行一个双向的交互。然后根据这个交互呢，动态的去变化自己的内在，就是他的内在要不断的随着外部的环境去变化，外部的环境呢也随着你的有所作为，你和外部的交互而发生变化。你在改变环境，环境在改变你。这是人的特征，或者说是一般生命的特征。一般生命也包括广义的生命，广义的有机体，就是比如说社会，一个社群，一个国家，一个团体，它也是广义上的有机体，它一定是有一个和外界的交互的过程。 而在这样一个观念底下，那么制造出来的机器是什么样的呢？这样制造出来的机器也是有感官的，所以他说现在的自动机是有感官的，它是要与外界双向去交互，它也要去动态的去变化它的。这是维纳的原话“比较古老的机器……事实上都是在闭合式钟表的基础上搞起来的。但是，现代自动机器，诸如自控导弹……都是具有感觉器官的，亦即具有接收外界消息的接收器。”。在这个意义上，生命和机器二者是完全相同的：“生命个体的生理活动和某些较新型的通讯机器的操作，在它们通过反馈来控制熵的类似企图上，二者完全相当。” 1.5 从机器观到生命观（动物学背景） 1.5.1 遗传与适应 我们说到这里，其实我们可以看到，维纳一直就是“生命是什么”和“机器是什么”这两个问题来回对比。结果发现两边是一致的，什么样的生命观和什么样的机器观是相吻合的。那么我们回到生命观的问题，现代生命观的建立啊，很大一部分我们还要讲到达尔文主义。 被六岁的维纳踩在脚下的那个《物种起源》，确实维纳是消化透了。他就讲到这个达尔文的核心是什么？达尔文的贡献何在？ 维纳说：“从马尔萨斯到达尔文，思想嬗替的线索是清楚的。达尔文在进化论上的伟大革新，就在于他承认进化并非一种拉马克式的高而更高、好了又好的自发上升过程，而是这样一种现象：生命体在其中表现出了：（甲）多向发展的自发趋势和（乙）保持自己祖先模式的趋势。这两种效应的结合就铲除掉了自然界中乱七八糟的发展，同时通过'自然选择’的过程淘汰掉了那些不能适应周围环境的有机体。这样铲除的结果就留下了多少能够适应其周围环境的生命形式之剩余模式。按照达尔文的见解，这个剩余模式便是万有的合目的性的表现。” 达尔文的进化论上的伟大革新是什么呢？他和拉马克的单向进取过程不一样。达尔文的进化论第一个特点就是盲目性，就是一个多向发展的自发趋势。道金森也有一本书叫《盲眼钟表匠》，就是说生命体的进化是没有一个确定的目的，它是多样的，它的遗传是随机的。这个几率性啊，就前面讲的就是那个偶然性、不确定性，对吧，就在这里遇到了，就是生命没有一个确定的发展方向，而生命的发展也不是自发的，它是和环境交互当中最后慢慢的确定下来。 还有一点就是生命是有记忆的，就是遗传嘛，就是要保持自己祖先模式的趋势。就是说它一方面它是有一定确定性的，保持遗传记忆上有一定的确定性，但是这个保持呢，又不是原封不动地保持。它是有几率突变，对吧？对达尔文我就不介绍了，大家都熟悉，它有突变，那么这个突变以后，再去适应环境，就是它要不断的和环境交互，这个不同的突变，再去和环境的交互是不一样的。最后看哪一种交互最适应于环境，那其他的一些不适应于环境的那些突变方式就被淘汰掉了，对吧，优胜劣汰了。这叫“剩余模式”，就是剩下那最优的，被留下来，这个最优没有一个绝对的标尺，而是不断动态的相对的标准，由于环境是不断变化的。 所以，要点一个是“随机性”，一个是“记忆”。而在不断的通过随机的分裂，随机的探索来不断的修正记忆，通过外部的这个环境，反过来修正记忆。所以，某种意义上，达尔文的贡献就是发现了生物、族群、物种和环境之间的“双向通讯”的机制，这是这是维纳对达尔文的理解。所以在这个里头，就有这样一个过程，某种意义上这个过程就是学习的过程。但是对于一般的物种来说，它是需要有几代，无数代，一代又一代的这样一个基因的传承才能够去“学习”。所以《物种起源》说的就是物种在学习，但不是物种个体在学习，是整个物种，它通过不断地积累、不断地反馈，去学着适应环境，去成长。 1.5.2 学习即反馈 但是呢，对于人来说，人是一种独特的动物啊，人的这种独特的特性呢，其实就是学习，那么维纳想强调的这样一个机制，这种控制论的双向互动的机制就是反馈的机制。反馈分为两类，有一些是简单的反馈，有一些是复杂的反馈。 什么是简单的反馈呢？简单的反馈就无非就是说，只是把一些环境当中的一些简单的，比较粗糙的数据反馈过来，吸收过来，来代入到下一个解。就是某种像递归，或者说像迭代。简单的一些迭代啊，比如说斐波拉契数列，这种你可以说它是一个反馈，就把一个加和的结果反过来放到那个加数上面，然后再继续加，这是一种反馈。但是这种反馈不叫学习，这还是一个八音盒能够做到的事情，那么一个复杂的反馈是什么呢？就是说你不仅仅是反馈回来的是一些单纯的数据，反馈回来的是能够对模式进行调整的信息。这种信息对那个基本模式要进行调整，就那个八音盒，比如说你要在反馈的过程中，你要把八音盒内部的整个的结构、整个的形式，都不断的发生调整，它是动态的，那样的话就可以称作为一种学习的过程。这种过程也是在面对不确定性的一个环境的过程当中，和它交互过程当中发展出来的能力，就是我要以某一种方式去跟环境交互，得到反馈以后呢，你会根据那个反馈去改变你的交互的策略本身。 这个策略本身是要改变的，就是你的内在改变了啊，然后你再去交互，再进一步接受反馈，然后再不断的在不同的反馈当中去甄别出来，最好的策略是什么。找到最好的策略，然后再去发扬光大，这就是进化论的一种模式。 1.5.3 人与动物的区别 所以维纳就说人作为一个物种，它是独特的。其他的物种，它需要整个物种去实现的一个慢慢适应环境、学习环境的过程。人的每一个个体都会有这样一个能力，就是学习，这里又回到人的本性，是要把人当人，人不是动物。如果说人不是动物，人和动物的本质区别是什么？人和动物的本质区别在维纳看来，就是人的个体是能够学习的。 他说，法西斯主义的问题是什么？法西斯主义就是没有把人当人，而是把人当蚂蚁啊，把人当畜生。可是，蚂蚁不会学习啊！蚂蚁的能力基本上都是它先天决定的。它需要后天的发展，但是不需要学习，就是动物也是这样，动物你可以说有的时候动物好像也需要“学习”，但问题是动物的学习是几乎没有偶然性的（如果说有的话也是说它比较像人），就是说动物的生存技能几乎不可能学不会。所以动物的学习是一个非常简单的反馈机制，它是随着成长，它的那个先天的能力，逐渐的成熟，那么他就会去捕食啊，就会去筑巢啊，等等这样一些事。 但人是有可能学不会的，人的学习是不确定的。人究竟要学什么？这个是不确定的，是要根据环境来决定的，你在一个原始丛林底下，你就要学习捕猎，学习追踪野兽；你在一个现代社会里头，你就需要学习上网，学习用计算机。你在不同的环境下，你要学习的东西是不一样的。而且有人会学不会，有人会学得会，学不会的你可以调整一下，你可以学别的，就是这人的这个学习的能力啊，是人固有的一种特性。所以你要把人当人呢，你就必须要强调，注重人的学习的能力，而不是要把人定死在一个专业的轨道之上。出身三岁看老了，三岁就决定一切了啊，你是这个工匠的儿子你就也是工匠，你是士兵的儿子，你就是士兵，那这样一个社会是非常糟糕的。 1.6 追问理想社会 1.6.1 学习的社会 把人当人的社会，就一定是一个学习的社会。我们前面讲就是维纳的思想反复地在生物和机器之间跳转，对吧？就是说你看机器是什么样的，所以我们要怎么样看待生物啊，然后生物是什么样的，所以我们要怎么样看待机器。 现在我们看到，对于人来说，学习是一个非常重要的一个本性。所以反过来说，机器应该是什么样的呢？机器应该也是学习的机器——一个典型的机器不应该是一个八音盒，八音盒是不会学习的。对，一个好的机器是要会学习的。这是什么样的机器呢？ “剩余模式的概念在阿希贝博士的工作中重新提出来了。他用它来解释机器的学习。……在阿希贝的机器中，就像在达尔文的自然界中一样，我们在一个不是有目的地构成起来的系统中看到了目的性，”——维纳他是把机器学习的这个理念归功于阿希贝，这个人我也不太熟悉啊，总之机器学习就像是达尔文的动物适应自然界一样，在一个不是由目的构成起来的系统中看到的目的性，强调一种目的的涌现。类似于达尔文的进化论，它本身是盲目的，是没有目的的，是适应偶然性的，但是在适应偶然性当中，就涌现出了一种目的，就是好像每一个物种都各司其位，有自己的生态位，寻找到了自己的一种模式。 所以这个目的在无目的中的涌现，是这个达尔文主义发展过程中的一个洞见。维纳就说怎么样设计一个学习的机器呢，也是说要在无目的中把目的性涌现出来，这个其实就是非常地超前。我们知道，现在我们这一波人工智能火起来，其实根源就是深度学习嘛！什么叫深度学习呢？其实就是维纳式的这个理念，完全就是一样的——就是把达尔文进化论用到了机器学习里头，就是去训练，就让它随机的运作，你改改参数，然后让它们去跑一下。跑出来结果后，看哪个结果更好，你就再反馈过去，说这个参数再进一步再去调整，再进一步去修正。所以现在的那个机器学习，基本上就是说如何面对偶然性，就是随机的变异加上一个反馈机制。反馈是必要的，这样才能够把那个最好的变异保留下来，在这个好的变异的基础上再进一步变异。这就是机器学习的一个机制。 所以说，这样一些机器学习的概念，其实在维纳那里就已经非常清晰地指明了方向了，所以某种意义上后来的人工智能，它很长一段时间走了弯路，走的是逻辑主义的路，就是还是一个预定和谐、前定和谐的那样一个路数，对吧？其实现在再返回来看到那个神经网络，看到深度学习，是对控制论的回归。 “某些种类的机器和若干生命体，特别是比较高级的生命体，都能在过去经验的基础上来改变自己的行为模式……换言之，有机体并不像莱布尼茨钟机式的单子那样，同宇宙作预定的和谐，而是和宇宙及其未来的种种偶然性依据实际情况而寻求着新的平衡……学习，和比较简单的反馈形式一样，也是一种从未来看过去和从过去看未来有所不同的过程。关于显然合目的的有机体这一整个概念（不论这概念是机械的、生物学的或是社会的），都是时间之流中具有特定方向的一根飞箭……” 这样一种“学习”的模式，它是具有普遍性的。在机械的、生物学、社会科学，其实都有这样的同样的一种模式，而这种模式呢，是不可逆的，在时间之流上是不可逆的，什么意思呢？我们说在牛顿的世界观里头，其实是没有时间方向的，就牛顿的世界观里头，你按着时间，正过来跑和反过来跑是一模一样的，对吧？比如这个刚体是顺时针转，你反过来时按时间逆着倒带，无非就变成逆时针转，对吧？它是完全一样的，它的物理学规律运动模式什么的都是完全一样的。正因为这样一个确定性的机制，所以它才是一个前定和谐的东西，因为它整个就是静态，按牛顿力学，这个世界整个就变成一个“四维流形”嘛，这个四维的流形从古至今全都已经确定了，因为古和今也无非就是可逆的一个时间参数而已。 这个世界观被颠覆了，关键就是熵的概念的提出，熵代表了一个不可逆的方向。维纳要强调，就是说我们要适应这样一个不可逆的方向，为什么不可逆呢？因为偶然性和这个学习这个方向都是不可逆的。因为你正过来看，是一个你不断面对偶然性的过程，是在不断的学习的过程，不断地固化。但你反过来看呢，就变成遗忘了。学习和遗忘不是互逆的，对吧？就那个顺时针转和逆时针转，它是互逆的，它的规律是一模一样的，而学习的这个规律，按照时间的倒带，它是不可逆的。所以就说我们要承认这个世界的偶然性，承认这个世界的时间性，承认时间的不可逆性，那么我们就要强调这个所有的事物，包括机械、机器、生物和这个社会，是要去适应这个变化的，要去驾驭这个充满偶然性的世界。那我们就需要去学习。所以维纳发展机器学习这个概念，是非常超前，非常有远见。 1.6.2 反馈机制的必要性 我们前面说人是人，人的本质是要学习。机器的理想是要学习，社会也需要学习。所以维纳对于社会政治的一些理想，他的社会理念，也是说我们的社会也是需要学习的，政治也是需要变化的，不尊重变化的社会就是专制社会。 什么是专制社会呢？比如前面讲的法西斯社会。需要注意的是，专制社会甚至不一定是法西斯社会，包括现在——维纳说的现代的美国社会，可能也是专制社会。美国社会，在维纳看来，虽然表面上标榜民主，但是实际上在很多的领域都是专制的。比如说一个工厂，一个企业，他们全是用专制的方式来治理。而民主的特点是什么？就是不确定性。丰富多样的、形式不定的是民主。而专制是什么？专制就是好像能够预先的控制一切，预先地决定一切，所以为什么专制的发展就必然会有一些，比如说计划经济之类的这样一些运转方式，就是说他试图预先的确定一切，把一切事物都预先的放到一个确定的指定给他的一个社会轨道上，对吧？ 维纳说：“但是，这种限制多端、形式不定的民主，对于许多以效率作为最高理想的人们说来，甚至还是认为太无政府主义了。这些崇拜效率的人们喜欢让每一个人从孩提时代起就在指定给他的社会轨道上活动，执行着束缚他就像奴隶之被束缚在泥土上面一样的社会职能。在美国的社会图景中，存在着这些倾向，存在着这种对未知未来所蕴含的种种机会之否定，这是可耻的。……商人用一批唯命是从的人围绕在自己周围，从而使自己和他的雇员们隔离开来；或者，一个大研究所的领导人给每一属员指定一个研究专题，但不给他独立思考的权利……他们所向往的预先指定个人社会职能的秩序井然的国家，令人想起了莱布尼茨的自动机，它在通向偶然性的未来时，不会提供不可逆转的活动，而这种活动却是人的生活的真正条件。” 维纳这一段引文批判的不是法西斯了，他批判的是美国。就是说对于很多美国人来说，号称喜欢民主其实是叶公好龙啊，虽然他们口口声声都是说喜欢民主，但其实他们都更喜欢专制，为什么呢？因为他们都喜欢“效率”，效率至上。效率至上会什么样呢？就是把每一个人都安排在他一个最适应的一个位置，然后就像一个生产流水线一样，你坐在那个位置上以后你就别动了，是吧？你就按部就班地，机械化的就搞你那套事情，按照既定的轨道运行，整个社会要搞成一个流水线工厂一样。这样的效率最高、最确定，对吧？每个人做什么事情，每个人生产什么东西，都在一个预定好的社会轨道啊。 所以说他们就像奴隶一样被束缚着，被赋予了一个预先给定的社会职能。于是美国的社会图景上就存在这样一些倾向——存在着对未知的未来与偶然性的种种机会之否定，他们害怕不确定性。维纳说这是可耻的。 他说商人也是这样，大研究所的领导人也是这样，学阀也是这样，专业化也是这样，每个人给派一个主题，去研究他们向往的预先指定给个人的专题。所以他又提到莱布尼兹，“令人想起了莱布尼兹的自动机，它在通向偶然性的未来时，不会提供不可逆转的活动，而这种活动却是人的生活的真正条件。” 就是说美国的政治和法西斯的政治如出一辙，他们都没有真正地拥抱不确定性，没有真正拥抱机会、可能性。所以说，怎么样去拥抱这个可能性，怎么样去驾驭可能性呢？那么社会也需要学习。社会要学习首先就是说，我们要承认进步是一种迷思。我们要打破进步的迷思，打破对进步的迷信。就是维纳批评之前的很多人，特别是美国人，他们迷信进步，就觉得这个迷信进步其实是迷信什么呢？其实是迷信技术本身的一个内在逻辑。就觉得你把技术给释放出来之后，那个技术自己去发展，像摩尔定律那样，它好像就能够按照自己的步调，一步一步地进步，一步一步地发展，逐渐变得发达（人要做的就好比给八音盒上发条或者卖力气去手摇计算器那样，把技术的既定步调推进出来就行了）。美国人就信任这种技术本身的模式，所以他不去思考自己的责任，不去思考反馈，就迷信进步，就是把技术释放出来，然后去扩大它的力量就完事了。 一切也都是单向的，不接收反馈的，比如“征服自然”、破坏环境。一门心思征服自然坏在哪里呢？其实就是没有考虑环境的反馈，我们就是只考虑我们怎么样去单向地改造它。专制社会也是没有考虑反馈，它就是单向的，自上而下地去颁布秩序，它听不到民众的反馈。所以这是一个不学习的社会，一个莱布尼茨式的社会。 那么维纳理想当中的社会，它是要承认不确定性的，那么首先它不能迷信进步，认识到进步是有限度的，未来是多样化的，是不确定的。所以我们必须依赖的不是一些预先决策好了的计划，也不是预先决定好的规范。我们不能彻底依赖这些预先设计好的东西，而是要去不断的去接受反馈，这个反馈机制才是最重要的。所谓反馈机制呢，就是要不断的发现环境的变化，让环境的变化去不断影响我们的政策，影响我们的观念。 那么维纳就说。在我们这个时代啊，也就是在维纳这个时代，非常重要的一件事情就是我们的环境被彻底地、被很巨大地改变了，但我们的社会还没有反应过来。这是一个最大的问题。“我们已经如此彻底地改造了我们的环境，以至于我们现在必须改造自己，才能够在这个新环境中生存下去啊，我们再也不能生存在旧环境之中了。”那么这个旧的环境，旧的传统，都需要得到反思和改变。维纳这里重点还是在批评美国，因为他自己是美国人嘛，美国人当然要批评美国了。美国的许多旧的观念，在维纳看来还是觉得是很有问题的。 那么美国的传统是什么呢？美国的传统，维纳就说是“一切皆可以买卖”，就是全都是用市场价格来衡量，迷信市场，迷信价格。他说：“在美国人的生活环境中，信息的种种问题都是按照标准的美国眼光来评价的：一物之有价值就在于它作为一项商品之进入公开市场的情况。这是官方的正统学说，……在典型的美国世界中，信息的命运变成了某种可以买卖的东西。” 一切东西都可以买卖这件事情，倒也不是说错，但是它是一个旧时代的特征——在工业时代里头还算适用。这种美国价值观最适应的是去分析工业化产品的贸易活动，那些工业化产品当然都是商品了，是吧？工业流水线的时候生产出来的羊毛毛衣啊，这些东西那当然都是商品了，那个矿啊资源啊也是可以买卖的嘛。所以这个一切可以买卖的观念，它是适应于工业时代，或者说适应于第一次工业革命。 在维纳看来，到了新的时代，到了信息时代，到了一个新的环境底下，这个把一切事物都看作可买卖的东西，这样一个观念应该过时了，就应该受到新的调整。为什么呢？因为信息不是商品。信息不是那个工厂流水线里头生产出来的东西。他说“信息和熵都不是守恒的，都同样不适于作为商品。”因为，一个东西你就是摆在那儿，它依旧是“一个”，而一段信息它是可以复制的，它是一段信息，它可以不断地被分享。 维纳举了一个典型的例子，就是艺术品，就说艺术品的价值是不能用钱衡量的。一块面包的价值是可以几乎等同于它的商品价值的，你可以看它在市场中卖了多少钱，然后说这块面包的价值大概是五块钱，或者大概是十块钱。但是一幅画就不一样，你说它的价值是多少？我们现在也貌似能衡量，比如这个作品拍卖价4万，400万，4000万，但这个拍卖价衡量的不是这个艺术品的价值啊，为什么呢？因为当你在看艺术品的时候，你在博物馆里欣赏它的时候，你没有花钱呀！你一分钱没花，你就跑到博物馆里头，在艺术品前面，你欣赏艺术品的时候，这个艺术品的价值就已经展现了。对吧，这个艺术品的价值是在你一分钱不花在旁边博物馆里欣赏它的时候才得到了最大的展现。反而你花了4000万买了这幅画，雪藏在家里，地窖里头，谁都没有看的时候，这个艺术品的价值恰恰没有被展现出来。所以那个4000万不是艺术品的价值。 艺术品的价值何在呢？在于它的公开，是它让更多的人去看到啊！而这个更多的人去看到通过的就是那个可复制的信息啊！放在博物馆你可以让1万个人看到，你再放到互联网上，你可以让100万个人看到是吧？而这个事情，是难以量化的，不可能用一个衡量商品的方式来衡量这个艺术品的价值。 在信息时代，在信息世界里更重要的东西是那些创作物啊。在信息世界被创作、被传播，互联网上的东西，都不能够再以在商品市场中衡量商品传播的方式来衡量。因为那些东西实质和面包毛衣之类是完全不一样的，他们是可复制的。所以说在那个信息化的世界里头，在维纳看来，就是说，“在一个变动不居的世界里头，你再去把信息贮藏起来，而不使其严重的贬值，这种想法是荒诞的。”哪怕在传统上，你还可以说你把一幅画窖藏起来，我可能过个20年之后再拿出来看，它会升值。但是在互联网时代越来越不能这么想了。我要把信息封锁起来，我把信息保密，就放在我电脑里啊，谁都不让他看，然后觉得这个信息是有价值的。维纳说你这个衡量错了，信息的价值不应该是这样来衡量。 所以他非常强调，旧的那个制度，包括前面讲的集中化的流水线的制度，它是适应于蒸汽机革命的。蒸汽机是一种大型的机器，你用蒸汽机就能够提升效率，但是蒸汽机不适合小作坊用，它就适合集中化用。所以我们要适应蒸汽机这种技术媒介，适应这种新技术，我们我就不得不投靠于集中化，投靠于专制的工厂体系。 但是呢，时代变了。现在这个时代的主导的技术是什么呢？是信息技术。我们要去适应信息技术，我们就需要做出调整。我们不能用适应蒸汽机的方式再去适应信息技术。所以维纳非常强调自由的共享的制度，他相信自由和共享的机制才能够更适应于信息技术。所以如果维纳活到现在，他一定是一个开源运动的一个支持者，是吧？ 1.6.3 认清机器的位置 我们前面讲啊，不要把人当作非人，我们要把人当人。这里的某种要点就是我们要恰当地看待机器。既然人是一种独特的机器，所以说你如果不好好地认清机器的位置，摆好机器的位置，你反过来你也是不能够摆好人的位置。 维纳会批评一个典型的趋向：就是要把机器当作一种单纯的奴隶。奴隶是什么？奴隶就是一个可买卖的东西，也前面讲的以买卖为基础的观念。我的奴隶是一个商品，它不是一个人，它不是一个主体，它是一个商品。奴隶的价值就是他可以出卖的劳动力，对吧？你买来这个奴隶，相当于你一次性支付一笔钱，然后买一个细水长流的劳动力，对吧，就是这样一个逻辑。维纳看来，我们现在好像有一个趋势，就是把机器，特别是那些自动机器都看成是奴隶。 但维纳说：“让我们记住，不管我们对于自动机之有无感情问题采取什么样的想法，它在经济上完全和奴隶的劳动相当。……”——你看这都非常超前对吧，他觉得这个首先我们谈论那个机器有没有感情啊，是值得谈论的，但不是最重要。无论它有没有感情，你在经济上把它当作什么？这才是重要的。机器的劳动在经济上完全和奴隶的劳动相当，这就属于是一种“当作”方式啊，但不是维纳提倡的方式。 你把它当作奴隶的话，那么，维纳接着说“任何一种同奴隶劳动竞争的劳动，都必须接受奴隶劳动的经济条件”。什么意思呢？就是你把机器当作奴隶的时候，你会发现人被当作什么了呀？因为机器干的是人的活，机器在跟人抢活干，对吧，现在我们已经看到机器不断在跟人抢活干。你把机器当奴隶了，那跟奴隶抢活干的人是什么呢？甚至和奴隶抢活干，还抢不过奴隶的那个人是什么？不就变奴隶的奴隶了吗？不就比奴隶还低等吗？如果把那个机器的价值就用单纯的奴隶来衡量它的话，那么，比机器还不如的劳动力，比机器还不如的人类，岂不就变成奴隶的奴隶了？你不是比奴隶还廉价了吗？所以无论说机器有没有感情，你把机器当奴隶都是糟糕的，或者说都是危险的。 我从《控制论》的序言里头摘了一段：“机器将要像将要求我们像理解人类一样理解他们。否则我们将变成他们的奴隶。”结合之前的说法，这段话不是说机器一定会觉醒自我意识，然后会反过来奴役人类，不仅仅是这个意思。维纳看到了哪怕机器没有感情，就机器哪怕没有觉醒成像人类一样的这种有自我意识的个体，它仍然会奴役人类，因为如果你这个制度就建立在一个把人和机器都当作用来买卖的商品，都当作劳动力的出卖者的观念基础上，都以对待一个劳动力的方式对待人和机器，那么最终我们在这样一个社会制度，在这样一个经济体系下来看待问题的话，那么，结局一定是人是机器的奴隶，人是给机器打工的。 现在其实某种意义上就已经变成这样了，我们说那个“在系统中的人”，不就是吗？那些美团小哥，他就是在给那个“系统”在打工，某种意义上就是这样。并不是说美团那个跑腿系统已经觉醒自我意识了。它没有决定自我意识的时候，你也已经在给它打工，你也已经在给它做奴隶，对吧？维纳看到的就是诸如此类的危险。所以说维纳强调，要把人当人，还有一个重要的一点，就是只有人才能够为自己的行动负责，机器是负不了责的，哪怕是那些再智慧的机器啊，再怎么控制论的反馈的机器，它们也不能取代人的这样一个负责任的特点，所以不能把自己的责任推卸给机器啊！ 所以他在讲机器的时候他也说，我在谈论机器，但是同样也在谈论人，这个人也不能够互相推卸责任，人必须要像这么一个个体，一个独立的个体那样去承担责任。好，我今天的这个导读就到这里，因为这个书确实是非常的丰富，所以我只是简单地介绍一下，还有很多遗漏之处哈，欢迎大家指正！非常感谢！ ⬤ 问答 Q&A ✨ 线下问答 01 机器能负责吗？ 吴璟薇：刚才胡老师用非常清晰而简洁的思路，给我们介绍了维纳的整个控制论，尤其是和莱布尼茨的机械观做了一个鲜明的比较，专门突出这样的一种反馈和学习机制，是非常重要的。这种机制是一个控制论的机器，或者是这样的控制论语境中的社会，它本身的特征。那大家其实看到维纳的整个视角，不仅仅只是关注到整个我们所谈论的机器里面，他还把人所处的这样的一种制度，或者说社会，都纳入到其中来思考这样一个作为整体的这种控制论问题。包括我印象最深刻的话，胡老师刚刚也专门解释了，说维纳的控制论不是从机器里面来的，它本身就存在于这样的一个社会运作的机制里。 所以相信今天我们会有非常多的这样一种感慨，包括今天在ChatGPT这样的一种时代背景下，或者是从弱人工智能到强人工智能这样一种转换的过程之中，让我们再重新去思考机器，包括机器是否会去替代这类的劳动的问题，有着一个重要的意义。而维纳很多的思想，像胡老师说的，它是超前的，他尽管是在那样的五六十年代的社会，但是其实已经呼应了七八十年代之后的这个整个技术的发展和动向，那相信大家其实也有很多疑问，那我自己听了胡老师和阅读了书之后也有一些疑问，所以我先行使我主持人的这样的一个权利，我本身是非常喜欢维纳的控制论的，所以其实在读的时候也非常多的想法，所以我们能不能先做和胡老师做一个探讨，我们稍后再把问题的权利交给大家。 胡老师刚刚其实说到了，就是机器和人都是有感官的，人是有感官的动物，那这时候就会让我们想到了，就是当下，其实我们在这样一个智能系统里面，有一个非常重要的、非常依赖的技术，就是传感系统，包括我们今天的互联网，包括以后我们所说的一些人工智能，其实非常重要的问题，就是需要去建构一种机器的感官系统来替代人的感官系统，甚至像马斯克那样，把这种所谓的芯片植入到人脑之中，进行一个这种脑机的结合，那么在今天的这样的一种过程里面，我们其实看到，既然人和机器都是同样具有这种感官的功能，那么未来是不是意味着，如果我们按照这样的一个逻辑下去的话，人和机器其实可以没有差别？甚至到了赛博格之后，其实人的感官和机械的感官无法区分了，那么人和技术或者是人和机器之间的本质区别在哪里呢？ 胡翌霖：我想就是按照维纳最后的讲法，就还是一个负责任的问题。就是说，这个机器可以有感官，或者是可以做一些决断，但是机器的决断仍然是人委托给它做的，就是当你委托一个他者去做决断的时候，这个他者其实不一定是机器对吧，他者可以是他人，可以是机器。但你可以委托给他者就是说，这个事情我交给你判断啊，你帮我去做这件事情。 但是你可以委托一个任务给他，你不能把你的责任全部委托给他，就是当他给搞砸了，那么作为委托者的你需要负责，你也需要承担责任。所以，这件事情就是说，这是机器可以作为一个被委托者，但是机器不能作为一个委托者。他作为一个被委托者，就是说他不能够承担发起一个根本上的责任。这件事情是只有人可以去承担的。 （至少短期内）机器和人是不可能完全一样的，为什么呢？机器它是可复制的，或者说它的那个可复制性非常强。比如说有这样一个机器，一个数字马斯克或者是数字什么人，那你有了一个就能有两个，有了两个就能有四个，就能有无限个，然后它每一次自己在做那个演算的时候，它也不断的在自我分裂，在不断的接受反馈，它随时可以做切割，对吧？所以这样的话，机器它很难以负责任，究竟是让哪一个版本来负责嘛？是吧？ 比如我让一个人来负责任，我们把这个人枪毙了吧，或者说关上20年牢，对吧？那机器干嘛呢？你“枪毙”了一个程序，它马上复制嘛，把镜像或备份恢复出来嘛，我给你这个人工智能关禁闭，那别的地方还有备份呢。所以这些事情对人和对机器来说，是难以等价的，之前网上某个段子我觉得它是有一定的合理之处的，就是说AI不能坐牢嘛。 很重要一点也就是说，人还是要挺身而出去负起责任，就是在所有的这些在运用机器的那个过程当中，最终负责的还是人。 吴璟薇：其实刚刚说到，因为是复制的问题，由于它有这样的一种学习和反馈的机制，所以在这个过程当中，其实它就是不可逆的，而且是一直向前的，所以这是不是就意味由于这样的一个反馈机制，意味着学习的能力会越来越强，那么技术是不断在进步，有没有一种可能——虽然起点是人对机器的控制，但是如果我们按照一种机器的这种自主性的进化来讲，那是否也有可能会在不断的自我完善之中机器变得非常地适应环境，然后越来越能够去发展出一个自我循环，自我优化这样的自主性？ 胡翌霖：可能在维纳看来，这也是进步的迷信的一部分。就是说，维纳强调这个学习，是通过不断的反馈在学习，但是他没有说学习的能力是无限的。比如我们作为人，我们都知道学习的能力是很有限的，我现在的学习能力就比30年前要弱很多，对吧？小时候学习能力很强，是吧？无论是一台新的手机摆在面前，还是新的一种语言，小孩子很容易就上手了，我们现在就不太行了，可能再过30年我们也变成老古董了，所以这个学习能力是衰退的，不一定是那个我们会越来越强的。 对于机器来说其实也一样。机器的适应，它可能也会走向死胡同。比如说它虽然也在不断的接受反馈，但是过程中它可能经历一个恶性循环，或者是一个死循环，它就走不出来了。它走到一个死胡同里头去，完全可能会这样。我们不能够迷信机器，就像我们不能迷信人一样，对吧？所以在这个方面，人和机器还是一样的，你不能说，唉，你看这个人多厉害啊，这个就是我们的一个英明的领袖啊，那我们把一切都交给他就行了，那不行啊，那个人是会腐坏的呀。可能他之前确实很英明啊，但是他掌权了之后，过个几年他可能就腐坏了呢？那我们不能把这个一切都寄托在一个强人之上，那同样我们也不能把一切都寄托在机器上，寄希望机器一定会朝向好的地方发展。所以我们也需要实时的交互，那个交互是复数的，这个交互是人和机器之间、不同的机器之间、不同的人之间都要不断的去互相交互，互相反馈。那你不能够指望，一切都会自动的朝好的方向发展。 吴璟薇：非常感谢胡老师。今天我们在现场，当然有一点遗憾的是，本来我们应该可以到那个维纳曾经工作的地方，就是清华大学新闻传播学院之前那个楼，属于旧电机系的，维纳的办公室原来是在三楼。可惜现在都在装修，三楼已经拆得跟之前完全不一样了，所以今天我们也只能在这个另外一个现场来进行直播，所以留一点小小的遗憾。这个楼以后修好了，大家可以到那个现场去，那么我们今天因为是线上和线下的这样的结合，在场我们也有观众，我们在线上有各位观众啊，我们大家看一看有没有相关的提问。我们先优先给现场观众吧！ 02 交互反馈式的和谐可能吗？ 冯光能：因为今天的批评是建立在莱布尼茨的“前定和谐”概念之上的。但是呢，其实胡老师主要批评的是前定，而不是和谐，莱布尼茨这个思想本身也是比较复杂的。其实我们社会总是要追求和谐的，那么就是说在一个人和人不断的跟环境交互，不断的在复杂的环境中交流信息，在通过反馈来学习的过程中，他可能是没有目的的，但是呢，就是胡老师也说了，在这种复杂的情况下，最终有可能涌现出一种目的性。那在这样的背景下，其实我比较关注的就是和谐，它是否可能？何以可能？或者说和谐并不一定是社会的最好的目的，即便如此，我们还是作为人，终归还是有社会理想的。 胡翌霖：是这样，但莱布尼茨的和谐是个假的和谐。莱布尼茨的和谐是什么样呢？只是听起来和谐。比如像那个八音盒，八音盒里头可以有几个乐曲对吧，比如一个是钢琴，一个是小提琴，一个是其他的，然后可以奏出一个和谐的声音，但其实它们是互相之间是没有交互的，它都是预先排列好了的，几秒钟发出钢琴声，几秒钟发出小提琴响，就小提琴归小提琴在那弹，钢琴归钢琴在那弹，它们之间甚至完全独立，但是呢，放到一块的时候，你就可以听到一个好像和谐的声音，这就叫前定和谐。但实际的和谐是什么呢？比如音乐会现场的那个指挥，音乐会需要有指挥，是因为大家都是不断地反馈的，这个指挥其实做的一个就是来回反馈的事情。就是说，哎，你那个这边做得快了，那可能就让你这边慢一点。这边怎么样啊？现场的气氛怎么样？他可能就实时地要调节。为什么音乐会里头的那个指挥非常重要。很多外行可能就理解不了——要指挥干嘛呢？不就大家按着谱子弹嘛，你们按着谱子，每人各人弹各人的谱子就完事儿了。那其实各弹各的呢，确实也能听，外行听着可能也不错，但是有指挥还是没指挥，对于音乐还是影响还是很大的。指挥扮演关键的角色，他不是前定和谐，而是反馈式的、实时调整的那个和谐，所以维纳理想当中的和谐应该是有指挥的那样一个和谐，而且演奏者们互相之间也能够听到，我在弹琴的时候，我听到那个小提琴手，我看到那个指挥家，我甚至我看到观众的反应。那这些东西都在整个场域之中互相关联，互相交互，然后这样构成的和谐，是一个比较理想的和谐。维纳反对的就是都给你指定好了，像计划经济一样，也很和谐，预先你干什么他干什么，他干的事和你干的是不用交流，最后也能搭配对吧？最后组装出来。那个流水线就是前定和谐，是我装我的，你装你的，最后汇总到一块，哎，拼起来了，一辆车出来了，对吧？那和那个八音盒式的和谐是一样的。所以说这个东西是很生硬的，它不能适应变化，它可以永远生产。你如果永远生产同一辆车，那没事，你可以这么做，效率是最高的。但是问题是现实社会中不能永远生产的一辆车。现实社会是会变化的，那个变化发生的时候你就适应不过来了。所以维纳说，你在一个充满不确定性，不断变化，不断发展的社会当中。前定和谐不行，你需要一个“后定和谐”，对吧？就是这样，不知道是不是解答了你的困惑？ 冯光能：就是这给了我很大的启发，因为这个音乐指挥的作用确实特别重要，就这种反馈式的和谐。不过一个演唱会它有专业的队员，有指挥啊，它是一个专业的团体，而且它是有限的。就是说，比如说你要指挥他也是有难度的，你指挥十个人和指挥100个人、1000个人那是不同的，就是从理论上来说，如果我们社会的每一个团体，就不管是工厂，炼钢厂，汽车生产厂，它都可以按照这样的指挥的模式来得到一个在每一个局部，每一个地域，每一个具体的工作场所都可以实现的这样的一个反馈的和谐。那如果这个范围又扩大到整个社会呢？就是比如说我们研究的对象不是一个具体的车间，不仅仅是一个具体的工作的场所，而就是这些各种不同的、形形色色的活动的场所，它们之间的和谐您觉得有可能吗？ 胡翌霖：当然有可能了。或者说这也是维纳的理想，维纳的理想就是这样。我还是按照维纳的思路来讲：维纳他会研究这个生物有机体，就是像一个人、一个生命，是怎么形成一个整体的？生命形成一个整体，其实就是说它的各个部分，就是它既相互独立又互相结成一体，有一些东西就是外来的，甚至是像线粒体之类的，它是外来地加入进来，有一些东西它是分化的，也有专业，就是维纳不会完全反对这个专业化。但是专业分工之后，你要有一个联系机制。所以那个维纳的控制论它有很重要的一块，我今天没有讲，就是神经科学，对吧，它很大一块是这个，神经做的事情就是在你的人体里头做扮演一个串联的角色，就是把各司其职的不同的部分，又能够联系起来。让各部分互相沟通，能够去实时反馈。比如说你的手疼了的时候，你可能你的脚要做反应，对吧？你要往后撤啊。你的脚疼的时候，可能你的眼睛要有反应，怎么回事？那就是一种协同的、靠神经的反馈机制来做的这种协同。所以他会认为你一个社会如果要健全的话，它其实也需要某种神经系统。这个神经系统呢，不是完全一盘散沙的，就是它是有中枢的，对吧？人是有大脑，有中枢，但他又不是完全前定的，就是完全那个刻板自上而下的，它是要不断的交互，不断的联系。这是维纳的理想，当然具体怎么设计这个社会，它不是维纳的事情，维纳只能在理想方面给提出一些大的方针而已。 03 维纳的独特性 现场嘉宾：刚刚就是也谈到了社会，谈到了打破进步的神话，批判了美国专制，强调不确定性，然后包括就是前面其实更多的谈到是人这个主题，机器、确定性、稳定性，然后包括刚刚谈到这个音乐的合奏。所以我可以这么理解吗，这种所谓的机器观，或者说维纳的控制论，它其实是一种哲学意义上有关人的一种行为的认识论和方法？ 胡翌霖：嗯，没有，控制论包含哲学意义上的认识论和方法论，但不仅是哲学。你去看《控制论》那本书，它主要是一本数学书，对吧？它是一个工程书、数学书和科学书。只是我今天讲的主要是在哲学上讲而已。其实维纳的一些具体的思想，你倒也不能说是全新的，包括他自己也在引用别人，他的最大的贡献还是他是一种汇总的集大成者。就是他把生物学、神经科学、社会学、哲学……把这些领域的思想汇聚到一起。他这一生，有点类似于牛顿的那个地位（集大成者），具体看，其实很多包括他的哲学其实也不新，其实其他人也有，但是他能够如此系统、整体地把它们梳理到一块，这个是维纳的特长。 04 短期套现问题与确保长期责任的机制 现场嘉宾：是这样，因为我经常跟技术专业的人一起合作，就是说，如果按照老师说的这个，机器大家一起都能学习。有没有相关的研究这个有关极限的？比如说，当机器和人学习到了一种极限，可能都会产生一些恶性的，或者是一些无法控制的事情，机器无法控制，人也无法控制的事情。这样的话，就是维纳他有没有相关的畅想，说我们到了这个极限，大概会出现种种什么情况？又如何体现去规避？ 胡翌霖：这个问题有点大吧？嗯……你可以先说说你的想法。 现场嘉宾：我会觉得其实，有时候人们过于追求效率了。效率越来越高后，对人的社会也会造成影响，比如机器做得效率过高，那有一些人以前做的工作是完全就没有用，或者一些人的这个社会上的一些工作和身份可能也没有用，比如说整个工作的结构也发生变化，有些岗位也就没有了，产生就业的这种问题。如果我们一直在追求无限的效率提升，那可能现在所有的劳动力也会过剩，那接下来这个社会可能会怎样呢？我，我们就会比较担心会出现一些问题。 胡翌霖：对，维纳他一直就是在说这个就业问题，我之前讲的时候没读这段，但是我应该引了，就是维纳说这个新的第二次工业革命，它会导致萧条，对吧？会导致那个失业问题。（翻PPT） “自动机的采用会带来失业现象，它同目前的工业萧条甚至三十年代的危机相较，后者只不过是儿戏而已。这种危机会给许多工业部门带来危害，甚至也可能给那些利用新潜力的工业部门带来危害。另一方面，我们的工业传统决不妨碍工业家去攫取迅速取得而又稳当可靠的利润，并且在他个人行将破产之前溜之大吉。” 这里说的危害，在维纳看来，关键的一个问题就是说以买卖为核心工业传统——只注重钱，只注重效率，效率本质上也是收益率、资本的增值。问题在于，倒不是说你赚钱本身不行，而是说那个资本啊，它是缺乏反馈的。 你的问题很好，这一段我前面讲快了，没细讲。所谓工业传统或者说美国的那个以买卖为中心的那个传统，它“决不妨碍工业家去攫取迅速取得而又稳当可靠的利润，并且在他个人行将破产之前溜之大吉”。什么意思呢？就是说技术有不确定性，这种不确定性经常体现在：短期之内这个技术能带来很大的利益，但是从长期上看，它对社会带来巨大的危害，包括对你前面讲的包括失业问题，也包括环境污染，也包括生态危机、战争危机等等。这些东西都是长期的，都得在长期才看到很多危害。但问题是按美国传统，资本家在短期获利的时候，他就套现了，他就找下一个项目去了，他就拍拍屁股走了：哎，我投资的这个技术改变世界对吧，很厉害，我富了，我上市了，我套现了。上市了之后，股民就去承担那个风险去了，对吧？然后他自己可能走人了啊，到长期之后，可能甚至那个人都死了，对吧？那些早期的获利者都已经寿终正寝了。过了50年之后，这些危机出来了，危害出来了，失业问题也好，这个环境污染也好，一个个爆发了，你再去找谁来负责啊？没有人来负责的，真正该负责的人呢，盆满钵满赚钱了跑了，那个现在的人呢，其实也是倒霉者。股民一边买着那家公司的股票，一边受着那个公司的欺压，对吧，那个员工一边受着那个剥削，一边也是收着他的钱，你让那个员工反对啊，你让股民和员工去反对那个公司。怎么可能呢？他们左右都是受害对吧。 所以这是维纳说你这个制度就是有问题，这个资本家轻易能够脱身而出的一个机制是有问题的。所以最后还是回到人得负责，不光是对一个东西负一次责啊，社会还得有个长期的负责机制。你即便说等危害出来了早期的人都没了，但是你可以用社会组织、社会制度的方式，要一直有人盯着，随时有人能站出来为技术的后果负责。这样的一个机制是更重要的。 05 心灵认知问题 吴璟薇：有批评认为，其实维纳还会有一些比较机械式的论断，他可能涉及到了感知，但没有涉及到心灵认知的这样更深层次的主题。 胡翌霖：维纳是有一些讨论的，就说人的那个本质是什么？他说，人的本质某种意义上也是信息，不过是信息的形式，而不是信息的物质。就是说，所谓的自我意识是什么？就是维纳是隐约是提到了。对于这个问题，维纳认为，关键并不在于构想某种确定的端点，不是说某种确定的端点附着于你的肉体之上，或者附着你的大脑深处，这样一个端点决定了你的自我意识。你的自我意识是在交互当中形成的。你没有交互，是没有自我意识的，就是那种还是整个的这种在反馈机制当中，你涌现出来的那个自我意识。所以在这个意义上，维纳说人的意识活动本质上也是数字化的。这一点当然吴老师批评也是合理的，就是说他还是相对机械化的，就觉得人本质上也是能复制的，只是人和机器的区别在于，人复制很难，现在实现不了，但是原则上它其实原理上还是一致的，但是人无非就是数字。 不过也要强调一点，维纳可以讲人本质上是数据，但他和其他一般的数据主义还是不太一样，因为他会强调人是那个数据“流”，就是他一定要强调动态、流动、变化，是这样一个东西。你一个静态的数据不是人，重要的是那个流动过程。就是说那个流动过程全是可以数据化的，这个没有问题，但问题就是说这个流动过程是动态的，人不是一个静态的那样一个东西。所以他比较强调那个时间的不可逆性啊，强调这些东西啊，那所以人的自我意识可能也是在和外界的交互之中蕴含的，或者是涌现出来的自我意识，而不是一种确定的，就定死在那，可以被一段程序写完的这样一个东西。 06 责任主体问题 吴璟薇：我提到机器是不是有主体性的问题，其实我刚刚也想到这个就是谁在负责，其实维纳把这个问题抛出来，那最后结语就是说人要对这个事情负责，但是其实他并没有进一步去详细去说明，当技术发展到一定的程度之后，人怎么去负责的问题，所以他经常谈到负责，似乎也去强调了一个非常人类中心主义，或者以人为主体的这样一个话题，机器还是在人的这种控制、影响或者设计之下的，那么最后要负责的主体还是人，其实机器是没有主体性的。他似乎潜设了这样一个就是以人为主体性的这样的一个制度。 胡翌霖：要注意一点，他最后很强调一点，就是说所谓人要负责，一定不是说少数人负责。比如说我们把事情都委托给少数的一撮人，让他们负责，这是不行的。他强调的就是说。人不能把责任随便推，不能委托给机器，同样你也不能把责任随便推给他人。意思就是不光要人负责，而且是要人人负责！每个人作为个人，都要为自己负责。所以他反对的其实是一个非常基础的一个层面。就比如说我们现在我们这个一个工厂制度啊，这个专业制度啊，现在工厂流水线上的一个工人，他是不需要对那个产品负责的。对吧？因为他只是说我就是拿钱，我干干活嘛，出卖劳动力。 维纳认为这也是不对的，那个工人本身也应该是一个人，你不能把责任随便委托给他人。所以他的这样一个批判，它其实不仅仅是针对说人把责任委托给机器这样一件事情，而且就是针对人让渡掉自己的责任这件事情。这样一点倒是和阿伦特讲的“平庸之恶”之类的观念是能够呼应的，就是说，我只是一个齿轮。比如阿伦特批评的那个艾希曼，艾希曼就是那个纳粹战犯嘛，他在耶路撒冷受审判的时候，他就说，唉，我只是齿轮啊，这个传动装置当中的一个齿轮，这些错又不是我干的，命令是上级下，执行是下级干的，我就是一个传动装置而已。是吧？那这样的话其实有没有人负责呢？整个纳粹罪行都由希特勒负责了？但是其实，每一个人都要负责，甚至每一个普通人，每一个参与到这个社会机器里头的人都应该要负起责任。而这样的一件事情其实是很难做到的，但是维纳提出了一个比较理想的观点。 吴璟薇：其实刚刚也讲到一点，我其实还现在还是比较疑惑，因为维纳其实一直是反对这种流水线，这种有明确的前置的这种生产，可是当下至少我们的生产还在这样一个流水线的体系之下。在维纳的设想之下，其实最好的状态应该是更加多元的机制，更加人性的这样的一种社会机制或者是生产机制，但是当下我们其实还在一个机械式的状态里面，就回过头去说谁来负责，就像您刚刚说的那个，我只是操作流水线上的一个负责执行的人而已，那么这时候就面临着他究竟应该把它看作是一个人还是一个机器的问题。 胡翌霖：对维纳来说，问题不是是否把人看成机器，而是把人看成元件、螺丝钉、齿轮和机器是不一样的。维纳认为，你可以把人看成机器，但你不能把人看成齿轮，你不能把人看成元件，因为元件本身是不学习的，是不负责的，是吧？你可以把人看成机器，当然人是一种独特的机器，这个独特性在于它能负责，他从一般的能力和那个社会角色上来说，他可以看成机器。 然后呢，维纳的那个设想，他可能是更加超前的。我现在比较推崇web3.0，以及相关的一些理念，我觉得这些理念是可能是更合乎于信息时代的。为什么现在那个流水线式的生产还是主流？就是因为现在的那个工业产品还是主流，因为数字产品仍然没有压倒工业产品，成为这个世界主要的经济、政治、权力的主要的力量。 但是这种情况正在发生变化。就比如说我们现在新一代的年轻人，其实也包括我们这代人，可能我们更希望在数字世界当中享受，而不是在现实生活当中享受。比如现实生活当中你让我出门找很多的吃的、喝的，我都不如说我宅家里多打两盘游戏。当我们这个观念发生变化的时候，那么逐渐我们就有可能突破那个工业化生产为主导的这样一个社会组织方式，进入到一个信息时代的生产方式，更适应于信息时代的生产方式，可能就像维纳所预言的那样，这是一个共享的，就是一项开源的创作，就像现在，比如说众包众创等等，可能这些东西是更适应于信息时代的生产模式的。 之所以我们现在还没有切换到这个新的模式，一方面是因为，整个的这个技术环境和那个生活状态还没有完全切过来，另一方面当然也是因为我们可能还是需要有努力，需要有所作为，要有一些人去推动这些事情。所以我们现在去重读维纳，重新发扬维纳可能也对我们现在的，以及未来的这个社会的建设，还是有积极的作用。 线上问答 01 机器控制人需要有意识吗？ 胡翌霖：我看到很多问题，那有一些问题是共性的：很多人都还是在纠结，就是说机器能不能像人一样啊，或者机器能不能主宰人，能够觉醒。有人也说机器啊，觉醒了之后没事，你把电源拔了就行啊，诸如此类的说法。 但是这些说法其实恰恰就是说维纳所要超越的。我觉得维纳是超越于这些简单的思路的，就是说你先不用考虑机器是不是觉醒。就现在，比如说，外卖小哥受到那个系统的压榨啊，那你觉得美团的系统很糟糕，或者说你作为普通人，受到那个信息茧房的控制，你觉得那个抖音的算法很糟糕……我们不讨论它究竟是糟糕还是好的问题啊，有些问题可能见仁见智，我们就是假设说：抖音的算法是糟糕的，或者说这个美团的算法是糟糕的，你能拔电源吗？谁去拔？它没有觉醒啊，它就是一个算法，就是一个这个死的机器，没有感情的，没有感情的机器，人应该能够控制他呀，请问谁控制它呢？ 不是美团的老总在控制它吗？并不是那个真正受到它影响的人去控制它。你说哎呀没事，机器出事了，可以去拔电源，谁去拔？那现在有些东西已经失控了，有些东西已经出事了，你去拔呀，谁去拔呢？你拔不了，为什么拔不了？因为这整个的社会的机制在保护那些机器啊，那些机器不是你随便能拔的。 当然你说你随便就可以拔的话，那这样的社会也乱套了——随便谁都能拔随便一台机器电源，比如一个好好运转的一个机器，比如我们现在在上课呢，你就嫌我这个课不好，你就来把电源拔了。那也不是好事。是吧？这不是那么简单的事情。我们不需要一定要到人工智能觉醒之后，我们才考虑谁来拔电源的问题，现在你就不能拔了呀！现在你就拔不了电源了呀，就是这个问题，现在那些机器就已经在主宰人类呀！现在这些机器就已经在取代人的工作，就已经造成失业问题了，不需要觉醒啊！也许觉醒了反而好了，觉醒了我还能跟它对话、打打商量啊。现在就是没有觉醒，就已经出这些问题了呀。所以维纳也说你不用考虑机器有没有感情这样一件事情，就可以考虑机器是不是奴隶，机器有没有把人变成奴隶这些事情。 这些威胁都已经出现了，而且要去面对这些威胁的核心，并不是拔电源或者怎么样，而是说要有一个健全的反馈机制，一个变更的社会制度。你哪怕是要拔电源，也是你要把社会制度变化了以后，让一个适合拔电源的人去拔电源，让不适合拔电源的人，不要随便拔电源，这样一个社会制度有没有建立起来呢？这才是一个核心重要的问题。 02 人向机器学习？ 胡翌霖：机器在某些方面超越人，然后之后可能人要向机器学习，这个当然是这样，就是在维纳的范畴里，你其实把他们都当成人或者都当成机器就行了。人也需要向其他人学习嘛，人也需要向机器学习，这些事情在维纳看来可能没有什么区别。 但是这个人的负责是一个大问题，就是你的能力不如机器不代表说，你就能够去让机器负责。所谓的能力越大，责任越大，这是对于能负责的人来而言的。对于机器来说，它本来就没有办法负责，所以必须还是需要以人为主体去负责这样一个制度，当然我只能说是一个方针或者理想，我没有说清，维纳也没有说清。 03 外卖系统问题 胡翌霖：“外卖系统的反馈机制反而压榨了这种压榨了骑手的劳动，这种反馈对于外卖公司而言显然是好的，但造成了对骑手的伤害。外卖系统的这种反馈哈是维纳提倡的反馈吗？反馈到底如何能够促进民主和解放？”——对，这是一个好问题，就是说外卖骑手的这个系统。指挥外卖骑手的那个系统，确实是一种反馈机制，但是这种反馈机制呢，它没有把人当人嘛，它没有把那个外卖骑手当作人来看待，所以他接受的反馈其实根本就不是外卖骑手真实的意愿，或者是其他人真实的意愿，而是就单纯的一个效率上的反馈，就是这个运行数据上的反馈。 吴璟薇：有可能，其实系统本身它就已经关闭了骑手的反馈，系统主要是机器反馈给机器，它不需要人反馈给机器。 胡翌霖：对，而且就是说，他的反馈其实某种意义上是相对简单化的，就是说它反馈的其实只是数据。维纳其实讲你如果反馈过来只是数据的话，其实是比较简单的，它不是学习式的，或者控制论式的反馈，控制论式的反馈回来是需要改变那个模式的。在很多系统里头，其实它那个模式本身没有被改变，它改变的只是一些数据，只是说这个派单时间是25分钟还是24分钟。 ⬤ 结束语 ✨ 吴璟薇：非常感谢胡老师，其实在这样的一个讨论中，我们其实也可以看到，在今天的社会，对那样一个早先的预言式的作品的这样一个讨论，是非常的有先进性和预见性。这也就代表着为什么今天控制论会在这样的一个信息社会或者是信息前社会，还没有完全进入到一个信息化生产时代，有着它无比的魅力。那当然包括我们之前阅读的相关的一些文献，包括《递归与偶然》，那后面还有一本书，就是许煜老师，那本《艺术与宇宙技术》，也在回归说这个控制论之下，如何去理解人或者是生机论的这样的一个观点。今天除此之外，还有非常多的关于控制论的讨论。那今天我们可以说是一个在信息时代充分地去思考自我的主体性，人的主体形成和技术关系的主体性的这样一个时代，相信维纳的控制论作为一个具有前沿式、前瞻性的理论，能够对我们未来的思考和研究有更多启发，我们也再次感谢胡老师的精彩解读，我们谢谢胡老师，谢谢大家！ 胡翌霖：我再说明一下，有些问题不回答是可能也是因为这个问题问得比较难啊，像在做考题一样，我的能力也有限，主要是本来就是来班门弄斧的嘛，这个所以也没有办法给每个问题都很好的回答。谢谢大家的支持！祝大家五一愉快！ 吴璟薇：也非常感谢胡老师带来了我们这样一个非常重要的这个控制论的讲座。胡老师一直是我们的劳模，因为两年前就已经在五一节的时候，主持了我们线上的那个神机妙算的在线直播展览，大家可以再去看一下和今天讲座相关的莱布尼茨的计算机，巴贝奇计算机是什么样的原理。链接也放到了我们今天的腾讯会议的聊天框里，大家可以再继续去关注一下，包括今天的所有的录屏，稍后我们会转到B站啊，我非常再次感谢胡老师，也谢谢大家的参与！大家节日快乐！ |
|
|
来自： 吕杨鹏 > 《20230501-20230507》
