分享

《香农传》| 汪恒解读

 昵称52221680 2019-06-04

关于作者

吉米·索尼,美国顶级报刊编辑;罗伯·古德曼,顶级刊物撰稿人兼学者。


关于本书

本书是信息论之父香农的传记,讲述他如何靠一个人的思维游戏,奠定现代计算机和互联网的理论基础,使虚无缥缈的信息变成人类社会支柱,带领全人类进入信息时代。同时,也讲述了他获得如此成就的秘密所在,以及他在科学泰斗人设之外的鲜活有趣一面。


核心内容

第一,香农将人类带入信息时代,主要靠哪两个重要贡献?


第二,香农能实现如此创举,依靠的是什么?


第三,在学术泰斗的人设之外,香农游戏人生的一面是什么样的?

前言

你好,欢迎每天听本书。本期音频为你解读的是《香农传》,这是信息论之父、美国科学家克劳德·香农的传记,讲的是这位天才如何开创信息时代,怎么用一个人的思维游戏,改变了整个人类的生活。


在科学史上,香农是足以和牛顿、爱因斯坦相提并论的天才人物。而且,按照有些美国学者的说法,爱因斯坦开创了相对论,却没有把我们带入相对论的时代。而香农开创了信息论,并且把人类带入了信息时代,所以,香农的影响比爱因斯坦更大。


这个说法看上去有点夸张,我们来看一下香农的贡献到底有没有这么大。信息时代的基础其实就是两个东西,一个是电脑,一个是互联网,而这两个东西都离不开香农。香农让电脑从一个简单的运算工具,变成了复杂的思考工具。也是因为有了香农的研究成果,互联网才应运而生。你说他的影响大不大?


有趣的是,香农并不是一个书呆子型的科学家,他身上有一种游戏人生的特质。他喜欢捣鼓各种奇怪发明,做出了能自己穿越迷宫的电子老鼠。他还会在严肃的科学会议上,像马戏团的小丑一样,玩起抛球杂耍,甚至用严密的数学方法来分析杂耍,写出关于杂耍的学术论文。而他的很多小发明看似游戏,却在多年之后,启发后人完成了划时代的重要创新。


这本传记的作者吉米·索尼和罗伯·古德曼,一位是美国顶级报刊编辑,一位是顶级刊物撰稿人兼学者,他们在传记里,重现了香农的精彩人生,也让我们看到了天才的思考方式。


下面我们分三个部分,来讲述香农的人生经历。第一,我要给你介绍香农的两个重要贡献,凭借这两个贡献,香农带人类进入了信息时代。第二,香农能做出这两个贡献,依靠的是什么。第三,我会给你介绍香农的另一面,在学术泰斗的人设之外,香农游戏人生的一面是什么样的?


第一部分

我们进入第一个部分,说说香农为人类做出的两个重要贡献。


讲这个之前,先为你大概介绍一下这位天才的人生经历。香农1916年生于美国密歇根州的一个小镇,从小接受良好教育,成绩不错,但并不拔尖。相比之下更突出的,是他捣鼓各种机器、研究小发明的本领。他曾做出一台升降机,把妹妹升到了高处。


香农的人生轨迹看上去有点四平八稳。他在密歇根大学念本科,然后到麻省理工念研究生。在每个阶段,他都能同时获得两个学位,一个数学,一个工程学,正好代表了他两个方面的兴趣和才能。毕业之后,香农进入贝尔实验室数学部,这是全球著名的企业研发机构。在这儿工作了三十多年之后,香农又回到了麻省理工当教授。这个时候他已经功成名就,名声大振,获奖无数,但他始终过着简单朴素的生活,继续着童年时的爱好,继续捣鼓各种小机械、小发明,直到八十五岁去世。


这段简要的人生经历看上去甚至有点平淡,但香农做出的贡献一点也不简单。他几乎从零开始,为人类打开了信息时代之门。


那么,香农究竟帮人类解决了什么问题呢?主要是两个,第一是在计算机方面,他让计算机从单纯的计算工具,变成了可以帮人解决各种问题的思考工具。第二是在通讯方面,他把千差万别的各类信息通通抽象为数字,提出“比特”概念,搭建了一整套关于信息度量和信息传输的理论,推动了各种现代通讯方式的诞生,包括我们每个人都离不开的移动通讯和互联网。我们分别来介绍一下。


先说香农在计算机方面的贡献。


在计算机诞生的早期,它的功能局限于数学运算,就是台运算工具。那么,谁让它变成了无所不能的多面手呢?正是香农。


香农做了什么呢?他写了篇论文,找到了用机器模拟人类思考的正确方法。这个非常关键。我们来梳理一下这个过程:首先,把你的思考整理成逻辑判断,然后依据一种叫作布尔代数的理论,这个理论比较复杂,我们就不详细解释了。依据这个理论,我们就可以把逻辑判断变成由1和0构成的数学运算,判断为真就用1来表示,判断为假就用0来表示。这个时候,香农告诉你,可以用电路开关的两种状态,也就是通电和断开,来表示1和0,通电表示1,断开表示0。这样就可以用电路来模拟你的逻辑判断和思考过程。


这意味着什么呢?意味着人类可以设计出一台机器,用电路开关来进行判断和思考,帮助人类解决各种问题。问题变复杂了怎么办?只需要增加电路里的开关数量就可以了。这就是现代计算机帮人类解决各种问题的基本原理。


香农不是计算机的发明者,但他这篇天才的论文,让计算机从简单的运算工具,变成了无所不能的电脑,奠定了现代计算机的发展方向。


随着技术发展,计算机电路里的开关原件,从电子管进化成晶体管,开关的数量也越来越多,越来越密集。像目前最先进的手机处理器,只有你的手指甲大小,却容纳了几十亿个晶体管,相当于几十亿个开关,能够完成各种复杂的任务;但它们万变不离其宗,仍然离不开香农在这篇论文中描述的基本原理。


特别神奇的是,这篇对计算机和信息时代如此重要的论文,竟然是香农在麻省理工念电子工程的硕士毕业论文。难怪,有科学家会说,这是历史上最牛的硕士论文。写下这篇神作的香农,当年只有22岁而已。


这是香农在计算机方面的贡献。接下来,我再来介绍他在通讯方面的重大突破。1948年,写完硕士论文十年之后,香农在贝尔实验室用另外一篇神作,开创了信息论,将人类带入了信息时代。


这一次他解决的问题是什么呢?他发现了信息的本质,找到了度量信息的方式,还提出了提高信息传输质量的方法。


在香农的时代,随着各种通讯方式的陆续发明,人们已经开始关注信息这个概念。从你和我面对面交谈使用的语言,到电话线传递的声音信号,再到电视线路传递的图像,这些好像都是信息,但信息到底是什么呢?没人能说得清,更不用说对信息进行度量了。


当时流行的做法,是从人类的语言入手,通过对语言文字结构和含义的分析,来探索信息的本质,并且尝试对信息进行度量。不过效果并不好。


我们拿中文来举个例子,假设有人跟你说了两句话,第一句是“明天会日出”,第二句是“明天有日食”,如果按照语言分析的路数,这两句话都是五个字,而且都没有进一步简化的余地,所以,两句话的信息量好像是一样的。不过,这个判断似乎和你的直觉并不一致。直觉上看,第一句话没什么信息量,因为只要晴天,天天都会日出嘛。而第二句话,好像还有点信息量,它告诉你一个你以前并不知道的情况。可是,这种信息量的差别,究竟应该如何把握和衡量呢?


这就要靠香农了,他直接越过了语言文字的纠缠,抓住了信息的本质。


信息的本质是什么?是消除不确定性。我向你发出一条信息,这条信息究竟有多大的信息量,在于它能帮助你消除多少不确定性。


还是拿上面的两句话举例。按照香农的解释,明天会日出是常识,对你来说本来就是一种确定情况,所以,这句话没有帮助你额外消除任何不确定性,没什么信息量。而明天是不是有日食呢?其实存在很大的不确定性。所以,明天有日食这句话,帮你完成了一个把不确定性变成确定的过程,它是有信息量的。一句话能帮你消除的不确定性越多,它的信息量就越大。


这样一来,不仅解决了信息的本质是什么的问题,连如何度量信息的问题,看上去也有了头绪。不过,我们都知道重量的单位是千克,长度的单位是米,能量的单位是焦耳,那信息的度量单位是什么呢?


这也难不倒香农,他说,既然信息是消除不确定性,那么信息最基本的单位,就应该是一个最基本、最简单的不确定性消除过程。就像是告诉你,抛一次硬币的结果,到底是正面朝上,还是反面朝上。


于是,香农找到了二进制数字。我们都知道,二进制的数字要么是1,要么是0,那么,传送一个二进制数字给你,就相当于完成了一次二选一,实现了一次最基本的不确定性消除过程。


这样一个包含两种可能的二进制数字,也就成了度量信息的基本单位,香农把它叫做比特,也就是bit。1个比特的信息量,就是1个二进制数字所代表的信息量。8个比特称为一个字节,也可以用一个大写的字母 B 来代替。我们都很熟悉的,用来表示电脑文件大小、内存硬盘容量的MB、GB、TB,其实都是在比特基础上形成的单位。


你看,十年前,香农把电路开关变成0和1,十年之后,香农又把信息变成了0和1。这样一来,不仅语言信息可以变成数字,就连声音、图像,一切信息都可以变成数字。各种不同的信息的传送过程也就变成了同一个过程。


不管最初形态是语言、声音还是图像,信息从发送者那里出来,先通过编码过程,变成一串串由1和0构成的二进制数字,完成数字传输,再通过解码过程,重新变回原先的形态,被信息接收者收到。这不就是我们熟悉的数字通讯吗?无论是通过互联网,还是通过手机无线网络,无论是文字聊天、发送照片、传送音频和视频,其实都是这样一个过程。


信息数字化的意义还不止这些。十年以前,香农将电路开关变成数字,复杂的电路设计工作就变成了解数学方程。十年之后,他让信息变成了数字,而改进通讯质量的工作,同样也变成了解数学题。


这是一个划时代的进步。在香农之前,人类耗费了大量的时间、精力和金钱,想了无数办法,就为了减少通讯信号传输过程中受到的外界环境干扰,提高通讯质量。例如,为了减少电报信号在海底电缆中所受的干扰,人们不惜花费巨资,给电缆装上厚厚的防护罩,但这也只能解决一部分问题。


那么,到底有没有办法实现完全不失真的信息传输呢?大家都没有信心,直到香农在论文里响亮地说:我有办法。


他的办法是什么呢?当然不是给电缆裹上更厚的防护罩。他认为,理论上,干扰不可能完全消除。不过,即便干扰造成信号部分受损,也照样有可能保持信息完整不失真。


听上去有些匪夷所思吧,信号受损怎么可能让信息不失真呢?但是我们细想一下就明白,按照香农的理论,这个时候电缆里的信号已经变成了数字,而他用数学方法证明,只要优化数字编码方法,增加额外的冗余数字,哪怕线路干扰会造成一定比例的数字信号丢失,传输过去的信息也能保持完整。


不过,每一条线路都有它的极限,如果到了极限,无论如何改进和优化编码,都没办法保证不失真了。这个极限对应的数字信息传输速度,就被称为“香农极限”。今天的我们,还在不断想办法提高信息传输速度,拿移动通讯来说,从3G到4G再到5G,其实就是在不断努力逼近香农极限。


上面说的,就是香农信息论的主要内容。他洞察了信息的本质,提出了信息度量的方法和基本单位,找到了提高信息传输质量的办法。可以说,现代通讯的基本特征就是通讯数字化,而通讯数字化的理论基础就是香农的信息论。今天你能看到的一切现代通讯工具和通讯方式,从互联网到移动网,本质上都是在传输数字,都是信息论的应用成果。


对今天的每一位计算机和通讯行业的从业人士来说,香农都称得上祖师爷。同时,我们每一天的生活,已经很难摆脱电脑、手机和互联网,而这些都和香农的贡献息息相关。


上面说的是第一部分内容,香农在计算机和通讯两个领域做出了巨大贡献,将人类带入了信息时代。值得一提的是,香农写完两篇神作时,只有三十多岁。是什么样的条件,帮助他在这么年轻的时候,做出这样伟大的贡献呢?下面进入第二部分,香农的成就靠的是什么?


第二部分

就算是香农这样智力超群的天才人物,要取得这么了不起的成就,也不可能脱离外部条件。香农生活的年代,正好是美国取代英国成为全球头号强国的时代,国力蒸蒸日上,科学技术飞速发展,这为香农的成功创造了很好的条件。前人的研究成果,也为香农的突破准备了敲门砖。像我们前面提到的,香农在计算机理论方面的成就,就和布尔代数理论密不可分。


不过,在各种外部条件中,最值得注意的,还是这两个方面:一个是二战的推动,另一个是宽松自由的研究环境。


先说说二战的影响。二战是人类有史以来最为残酷的战争,伤亡人数达到2亿,无数财富化为灰烬。不过,二战也是科技发展的催化剂。参战各国为了取得胜利,投入大量资源发展科学技术,并且将很多顶级科学家集中起来组织研究,产生了大量成果,直到今天还在影响我们的生活。


二战对香农的影响是什么呢?应该说,他在计算机和通讯领域的贡献,都和这场战争息息相关,特别是在通讯方面。他在二战中的经历,对他开创信息论,把一切信息都变成0和1,产生了直接的推动力。


二战时香农做什么去了呢?和很多美国学者一样,香农接受征召,为国效力。当然,这样的牛人不可能扛枪上前线当大头兵,美军根据他的数学才能,帮他选了一个最能发挥能力的工作岗位:密码专家。


在这个岗位上,香农的工作非常出色,他不仅帮助美军和盟友破译了很多德军密码,掌握德军的部署和举动,让伦敦少挨了德军轰炸,还帮助盟军建立了难以破译的加密系统,连罗斯福和丘吉尔的绝密通话,都要靠香农来加密。


香农作为密码专家到底做了哪些贡献?很多还处于保密状态,尚未完全公布。不过,人们知道的是,自从香农进入了这个领域,密码加密和解密就从一项专门技术,变成了一门真正的科学,拥有了理论基础。更重要的是,这个领域的工作,直接启发了香农对于信息本质的认识。你想想,密码通讯的编码过程,不就是把你能看懂的语言,变成一串敌人看不懂的数码吗?这其实就是一种信息的数字化。二战结束后,密码专家香农回到贝尔实验室继续研究通讯,他继续了自己在战争中的思考,终于完成了信息论的创举。


除了战争推动之外,宽松自由的研究环境,也为香农提供了很大帮助。这方面的代表,就是香农长期工作的贝尔实验室。


贝尔实验室是美国著名的企业研究机构,成立于1925年,迄今为止,它已经获得两万五千多项专利。像晶体管、激光器、太阳能电池、传真机、通讯卫星、手机,这些重大发明,都是从贝尔实验室诞生的。尤其可贵的是,它虽然是企业主导的研究机构,却非常重视基础研究,因此,这里也走出了8位诺贝尔奖得主。


这一点对香农来说非常重要。要知道,香农在这里前前后后工作了三十多年,取得了包括信息论在内的很多研究成果。但他的这些成果,基本都属于基础理论研究,很难直接变成产品,更不可能产生实实在在的经济效益。但贝尔实验室仍然支持和鼓励这些没法直接变现的理论研究。


对于香农这样的天才来说,这种环境简直是研究和思考的天堂,可以自由选择研究方向,可以自由利用实验室的雄厚财力和各类资源,可以将所有的精力用于思考,不用担心 KPI 和复杂的人事关系。在这个年代,美国很多大学、科研机构都具有类似的风格。这种宽松自由的研究环境,直接推动了这段时间基础研究成果的井喷,而香农的成就正是其中的一部分。


除了战争推动和宽松环境之外,香农的成就,也离不开他自身具备的天才特质。作为天才,他肯定智商极高,不过,除了这个之外,香农还有什么特质呢?


本书认为,他有两个优势特别突出。一个是超强的抽象思维能力。他懂得穿透各种外在现象,抓住事物的本质,把复杂多变的东西,抽象成最基本最简单的东西。我们前边说过,在开创计算机理论的时候,香农把电路和开关变成了一串串的0和1。在开创信息论的时候,他又把语言、文字、图像、声音变成了一串串的0和1。这就是香农抓住的本质。今天我们身处信息时代,信息时代其实就是数字化时代,一切都可以变成数字。我们早已接受了这种认识世界的思考方式。而这种思考方式的源头,就是香农天才的抽象思维。


香农的另一个优势,就是他懂得用好奇心和兴趣来驱动思考。他有一句名言,宝贵的成果往往来源于单纯的兴趣。对他来说,研究计算机原理和信息论,最初都是源于好奇心和单纯的兴趣。他想的是,我要弄明白这是怎么回事,而并没有去考虑太多,弄明白之后又能如何,能不能生产出产品,能不能产生效益之类。


当然,从兴趣出发,并不等于在思考和研究过程中不求甚解、漫不经心。相反的,浓厚而单纯的兴趣,让他心无旁骛,意志坚定,不搞清楚誓不罢休。拿信息论来说,将信息变成0和1,并不是他兴趣来了灵光一现的结果,要知道,从对这个问题产生兴趣到找到答案,香农可经历了整整八年的艰苦思考。只不过,他并不关心信息论能催生什么产品。很多人攻击这套理论缺少实用价值,他也并不在意。而贝尔实验室的宽松环境,正好让他如鱼得水。


直到二三十年后,现代通讯设备大量出现,人们才猛然发现,这套源于兴趣的理论,看上去像思维游戏一样的理论,原来这么厉害。


上面说的是第二部分,香农的成功因素。一方面,他个人的特质让他能把复杂多变的东西,抽象成最基本最简单的原理。另一方面,战争的推动和宽松自由的外部环境,让他如鱼得水。一般情况下,作为一个如此成功的科学家,我们觉得香农应该是那种德高望重、举止稳重的学术泰斗。不过,真实生活中的香农,却有着游戏人生的一面。


第三部分

在写完两篇神作、开创两大理论之后,香农成为学术名人,获奖无数。不过,他最大的兴趣似乎变成了杂耍,他花了很多时间刻苦练习,不断提高杂耍水平。他学会了骑独轮车和抛球游戏。七十岁时,他参加一次严肃的顶级学术会议,主办方邀请他上台致辞,他却从口袋中拿出三个小球玩起了杂耍,会场彻底沸腾了,西装革履的科学家们变成了粉丝,排起长队向他索要签名。


你可能会觉得,香农是在用杂耍游戏,作为自己研究思考的休息和消遣。并不是。香农曾经制造过几台抛球杂耍的机器,有的已经具备了人形机器人的雏形。另外,他又一次发挥了自己将一切抽象为数字的天分,试图建立一套理论,用数学来证明,人到底能同时玩几个球。


除了杂耍之外,成名之后的香农,还延续了少年时热爱小机器小发明的兴趣。相比在麻省理工上课和在世界各地参加学术会议,他似乎更喜欢在自家后院摆弄机器,做出很多东西,看上去只能称之为玩具,毫无实用价值。不过,他这些玩心大发的小发明,多年后却启发了后人的重大创新。


例如,他曾经制作出世界上第一台能够和人类下棋的机器,用150个继电器开关,计算国际象棋棋子的走位。这台机器下棋水平不高,不过,在他的启发下,几十年之后,AlphaGo 战胜了所有人类围棋高手。


他还做过一个人工老鼠,在迷宫中行走寻找奶酪,通过75个继电器开关,这只老鼠把一次次的道路选择记下来,直到找到正确的道路为止。而一旦它记住了正确路线,下一次它就能直接做出选择,不用再一次次尝试。对香农来说,这是个设计精巧的玩具。不过,它已经具有了初步的学习能力,启发了后来的人工智能研究。


香农甚至还是可穿戴设备的发明者。1961年,他和同事索普做出一个香烟盒大小的小型计算机,小盒子藏在口袋里,用大脚趾控制藏在鞋子里的开关。这个设备用来干什么呢?用来预测赌场的轮盘赌结果,计算小球落在轮盘不同位置的概率。他们带上设备,在拉斯维加斯大显神通。由于害怕太过惹眼,惹来黑手党注意,两人试过几次就不敢再试了。不过,这类设备后来不断发展,成了今天我们熟悉的苹果手表和手环。


香农在捣鼓这类小发明的时候,其实和做理论研究时的心态有点相似,都是从单纯的兴趣出发,并不考虑做出之后有什么实用价值。对他来说,游戏和工作没有天然的分隔。而恰恰是他这种完全放松的,将研究和思考作为游戏的心态,将自己的天才充分激发出来,最终改变了人类的生活。


总结

到这里,这本书的精髓就说得差不多了,让我们回顾一下。


第一,香农奠定了现代计算机的理论基础,使计算机从单纯的计算工具变得无所不能;同时,他提出了信息论,抓住了信息的本质,让信息变得可以度量,并提出了改进信息传输的方法。通过这两大贡献,他带动人类进入信息时代,给我们带来了数字化生活。


第二,香农的成就,有赖于二战推动和贝尔实验室自由宽松的研究环境,也有赖于他自己的天才特质,包括超强的抽象思维能力,以及用兴趣和好奇心驱动思考的本能。


第三,香农是个非常好玩的人,他热爱杂耍,喜欢捣鼓各种小发明,却在无形之中,启发了很多重大创新。


最后补充一点八卦。二战期间,由于美国和英国的同盟关系,香农和一位英国天才多次会面,结下友谊,这便是计算机科学之父图灵。两人当时都在研究密码,而都对机器思考和编码的问题感兴趣,在多次会面相互启发后,成就了一段科学佳话。


只不过,图灵在41岁时就英年早逝,香农却顺顺当当活到了85岁。信息学界设了一个最高奖,就叫香农奖,相当于基础科学界的诺贝尔奖和计算机学界的图灵奖。当时是1972年,香农仍然在世,所以他毫无争议地获得了第一届香农奖,并且亲自到场领奖。这种自己领自己名字命名的奖的做法,后来被人戏称为“香农套路”。

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多