分享

比肩爱因斯坦,神似特斯拉,赛过牛顿的天才“斜杠朋克”

 陆老师的后院 2020-01-16

从前这样有一位不相信神存在的人。

因为他很牛逼,而且更像个“神”。

在学校工作的时候,从不考虑这个问题有无实际价值,只考虑这个问题好不好玩;

从不考虑问题有无学术价值,只考虑这个问题好不好玩。

给学生上课的时候,不考虑学生能否毕业,只考虑课题好不好玩。但他提供问题的思考的角度和深度,是一般常人根本无法企及的。

在公司上班的时候,他从不考虑做的事情对公司有无贡献,只考虑这个问题好不好玩。

在他开创了一个领域之后,“搞腻歪”就主动退出该领域,原因是剩下的问题不如以前好玩。

在功成名就之后,从不考虑以他的身份和地位应该做什么样的事情, 只考虑这件事情好不好玩。

他不追求名誉,不追求地位,不追求权力,即使唾手可得。有主动掉在他身上的,他也不会完全拒绝。他也不追求财富,但投资市场实在太好玩,所以研究过,并获得了经济自由。

他有幸遇到了过去几百年人类最聪明的一批头脑,但因为性格内向,也和他们没有什么深入的合作。

他爱过,却不曾恨过。

他不曾刻意追求任何事情,却不放过任何一个感兴趣的事情。

他也如希腊神话英雄般,躲不过命运的绳索。人类历史上最聪明之一的头脑在晚年被剥夺了思考的权力。当智慧,思维和意识消退之后,剩下的他仍然热情,诚恳待人。

他就是,Claude Elwood Shannon ,工程信息和数学界是一位响当当的人物

要了解,这样一位比肩爱因斯坦,神似特斯拉,赛过牛顿,擅长杂耍、独轮单车、下国际象棋,专业级的选股人、业余诗人,开飞机,玩爵士单簧管,登上过 Vogue 杂志“斜杠玩家”。

还得从年轻的时候说起,因为他年轻的时候,不仅帅出了一片天,还玩出了一片。

1916年4月30日,在晴空万里没有任何异样的情况下,香农在密歇根州的Petoskey出生了,传说他和灯泡发明家爱迪生是远房亲戚。当然,爱迪生好像并木有谈及过,有这么个天才亲戚,当然就凭他挤兑特斯拉的行为,咱也不敢问。

在当时那个年代,香农出生的小镇,也就3000个人民群众,当然把他们一家老小也算上了,香农他爸是镇里的法官,他妈是中学的校长。法律和教育为主的家庭氛围里,出生的人,按一般常理思维多数比较呆板和严谨,但是香农并没有任何父母的影响。

香农,从小学习不算拔尖,喜欢捣鼓机器,研究各种机械发明。这种爱好,当然是从小受了他爷爷的影响,他爷爷是农场主,但是十分喜欢搞发明,是一个兼职的蒸汽朋克,发明过洗衣机和许多农用机械。

这种一老一小和瑞克和莫蒂的故事十分类似。

就这样, 鼓捣着机器,研究着发明,他捣鼓出了升降机,模型飞机,电动船,还有自制电报机。

香农的人生轨迹看上去有点四平八稳,貌似没啥奇迹。在密歇根大学念完本科,然后到麻省理工念研究生。但在每个阶段,他都能同时获得两个学位,一个数学,一个工程学。“同时”,在学霸的人生里简直易如反掌。

毕业之后,正是二战期间,香农找了份喜欢的工作就加入了贝尔实验室,研究火力控制系统和密码学。在那,他认识了当时是数值分析员的玛丽(Mary Elizabeth Betty Moore),后来成了他的妻子,以及,计算机之父阿兰图灵

他们当时都在各自研究自己的专题,图灵研究如何破解德国的密码香农研究如何对华盛顿到伦敦的通信线路进行加密。他们各自的项目都是绝密的,所以大家都不知道对方在搞啥名堂。

人工智能的起点 图灵测试

不过一次贝尔实验室餐厅的午餐将他们拉到了一起,他们都相信机器可以被赋予思考的力量。双方的讨论会很激烈,香农提议将有“文化的东西”灌入电子的大脑中,图灵则说“不,我对建造一颗强大的大脑不感兴趣,我只想要一颗普通的大脑。”要知道,那时他们的讨论完全是基于数学和逻辑的,1943年还没人知道计算机是个什么鬼!

知识点:

电子数字积分计算机 Electronic Numerical Integrator And Compute 1946 年诞生。

据了解,香农的办公室经常大门紧闭,但他的同事们并不认为他难以相处,因为他们知道香农非常注重自己的隐私和安静思考的时间。

香农的一位同事说:“你可以敲开他的门,他也会回应你的话,但除此以外,他只会跟自己说话”。

另一方面,如果有同事带着新的想法或问题来拜访香农的话,香农通常会与对方进行几个小时的高效对话,并作出正确的决定。

在数学工作中,香农可以直接抓住问题的核心并把细节放在后面考虑。他曾解释道:“我觉得自己更喜欢具象化而不是符号化。我会试图先感受问题本身,然后再谈方程式”。这就好像是先看到了答案,再来解释为什么这个是正确的。(想象一下你现在有500W这是结果,你能倒推这500W具体怎么来的吗?想的明白,想的科学合法,可操作,那么你也很牛逼)

香农的学生 Bob Gallager 回忆道:“他有一种神奇的洞察力,仿佛能看穿事物本身。他会说‘ Something like this should be true ’,而且往往事后证明他是对的。如果你没有超凡的直觉,你不可能凭空开辟出一片全新的领域。”

不过这偶尔也会给香农带来麻烦 —— 学术界的数学家们有时会指责他工作不够严谨。但他们的批评通常是错误的。数学家 Solomon Golomb 说:“事实上香农对于真相的直觉几乎从未失败过。”即使细节还需要完善,但结论几乎总是正确的。

他是电子信息时代之父,他是bit单位的爸爸

在科学史上,香农是足以和牛顿、爱因斯坦相提并论的天才人物

而且,按照有些美国学者的说法,爱因斯坦开创了相对论,却没有把我们带入相对论的时代。而香农开创了信息论,并且把人类带入了信息时代,所以,香农的影响比爱因斯坦更大。

虽说这个说法看上去有点夸张,但是,如果你能用今天的思维想清楚21世纪,你最不能离开的两个东西:电脑和互联网。你就能明白,这个斜杠玩家,在这个领域里做出了多么卓越的贡献。

要知道在计算机诞生的早期,它的功能局限于数学运算,就是台运算工具。那么,谁让它变成了无所不能的多面手呢?正是香农。

香农干了啥呢?

他写了篇论文,找到了用机器模拟人类思考的正确方法。请作为读者你,深度思考一下这个问题,是不是有点像人工智能初期?这个非常关键。

我们来梳理一下这个过程:

首先,把你的思考整理成逻辑判断,然后依据一种叫作布尔代数的理论,这个理论比较复杂,我们就不详细解释了。

依据这个理论,我们就可以把逻辑判断变成由1和0构成的数学运算,判断为真就用1来表示,判断为假就用0来表示。这个时候,香农告诉你,可以用电路开关的两种状态,也就是通电和断开,来表示1和0,通电表示1,断开表示0。这样就可以用电路来模拟你的逻辑判断和思考过程。

这意味着什么呢? 意味着秦始皇建国那会嫌麻烦,“统一”一下度量衡,而香农嫌麻烦,嫌累,那我就发明个公式定理吧。其实,本质上不能说发明,是他第一个窥探到了这个宇宙信息传递的编码公式。

这也意味着人类可以设计出一台机器,用电路开关来进行判断和思考,帮助人类解决各种问题。问题变复杂了怎么办?只需要增加电路里的开关数量就可以了。这就是现代计算机帮人类解决各种问题的基本原理。我靠,这么简单吗?

香农不是计算机的发明者,但他这篇天才的论文,让计算机从简单的运算工具,变成了无所不能的电脑,奠定了现代计算机的发展方向。

随着技术的不断深入发展,计算机电路里的各种开关原件,从电子管进化成了如今广泛使用的晶体管,开关的数量也越来越多,越来越密集。

像目前最先进的手机处理器,只有你的手指甲大小,却容纳了几十亿个晶体管,相当于几十亿个开关,能够完成各种复杂的任务;但它们万变不离其宗,仍然离不开香农在这篇论文中描述的基本原理。

特别神奇的是,这篇对计算机和信息时代如此重要的论文,竟然是香农在麻省理工念电子工程的硕士毕业论文。难怪,有科学家会说,这是历史上最牛的硕士论文。

写下这篇神作的香农,当年也只有22岁而已.....

我们凡人22岁的时候,在干嘛呢..

当你认为,香农是不是要在这个领域,继续发展的时候,他转头开始玩“信息”了,No problem 学霸的跨界,和平常人走路一样easy.

写完那篇硕士论文十年之后,香农在贝尔实验室写了另外一篇神作《通信的数学原理》,正是这篇“20世纪最重要的硕士论文”,标志着信息论的诞生,直接炸出了一个新的学科:信息学这个世界所有的信息都可以用0和1来表示,香农带领人类从工业时代进入了信息时代。

说实话,放眼全世界,上帝无非最痛恨的那几个人,莱布尼茨,笛卡尔,伽利略,哥白尼,牛顿,爱因斯坦,特斯拉,图灵、只有香农,让这个上帝又爱又恨...

他发现了信息的本质,找到了度量信息的方式,提高信息传输质量的方法。没错,是他发明的公式,让我们能从1G、2G、3G、4G走了今天5G。

要知道,在19那几年的时候,各种通讯方式的陆续发明,贝尔证了电话,神马无线电,电报之类,慢慢的人们已经开始关注信息这个概念。

从面对面交谈使用的语言,到电话线传递的声音信号,再到电视线路传递的图像,这些好像都是信息,但信息到底是什么呢?

举个例子,你就明白了,假设,有这样两句话,放在你面前:

1.明天傍晚太阳会日落。

2.明天傍晚有月食。

如果按照语言分析的路数,这两句话都是五个字,而且都没有进一步简化的余地,所以,两句话的信息容量应该是一样的。不过,这个判断似乎和你的直觉并不一致。

直觉上看,第一句话没什么信息量,因为只要你活着,天天都得吃饭。而第二句话,好像还有点信息量,它告诉你一个你明天吃什么。可是,这种信息量的差别,究竟应该如何把握和衡量呢?

这就要得看香农了,他直接越过了语言束缚,抓住了信息的本质。

那么,信息的本质是什么?

是消除不确定性。我向你发出一条信息,这条信息究竟有多大的信息量,在于它能帮助你消除多少不确定性。

还是拿上面的两句话举例。按照香农的解释,明天傍晚太阳会日落是常识,对你来说本来就是一种确定情况,所以,这句话没有帮助你额外消除任何不确定性,没什么信息量。而明天是不是月食呢?

其实存在很大的不确定性。所以,明天有月食这句话,帮你完成了一个把不确定性变成确定的过程,它是有信息量的。一句话能帮你消除的不确定性越多,它的信息量就越大。

这样一来,不仅解决了信息的本质是什么的问题,连如何度量信息的问题,看上去也有了头绪。不过,我们都知道重量的单位是千克,长度的单位是米,能量的单位是焦耳,那信息的度量单位是什么呢?

这也难不倒香农,他说,既然信息是消除不确定性,那么信息最基本的单位,就应该是一个最基本、最简单的不确定性消除过程。就像是告诉你,抛一次硬币的结果,到底是正面朝上,还是反面朝上。

于是,香农找到了二进制数字。二进制的数字要么是1,要么是0,那么,传送一个二进制数字给你,就相当于完成了一次二选一,实现了一次最基本的不确定性消除过程。

这样一个包含两种可能的二进制数字,也就成了度量信息的基本单位,香农把它叫做比特,也就是bit。没毛病,Bit 就是他发明的!

1个比特的信息量,就是1个二进制数字所代表的信息量。8个比特称为一个字节,也可以用一个大写的字母 B 来代替。

我们都很熟悉的,用来表示电脑文件大小、内存硬盘容量的MB、GB、TB,其实都是在比特基础上形成的单位。

十年前,香农把电路开关变成0和1,十年之后,香农又把信息变成了0和1。

这样一来,不仅语言信息可以变成数字,就连声音、图像,一切信息都可以变成数字。各种不同的信息的传送过程也就变成了同一个过程。

不管最初形态是语言、声音还是图像,信息从发送者那里出来,先通过编码过程,变成一串串由1和0构成的二进制数字,完成数字传输,再通过解码过程,重新变回原先的形态,被信息接收者收到。

这不就是我们熟悉的数字通讯吗?无论是通过互联网,还是通过手机无线网络,无论是文字聊天、发送照片、传送音频和视频,其实都是这样一个过程。

信息数字化的意义还不止这些。十年以前,香农将电路开关变成数字,复杂的电路设计工作就变成了解数学方程。十年之后,他让信息变成了数字,而改进通讯质量的工作,同样也变成了解数学题。

这是一个划时代的进步。在香农之前,人类耗费了大量的时间、精力和金钱,想了无数办法,就为了减少通讯信号传输过程中受到的外界环境干扰,提高通讯质量。例如,为了减少电报信号在海底电缆中所受的干扰,人们不惜花费巨资,给电缆装上厚厚的防护罩,但这也只能解决一部分问题。

那么,到底有没有办法实现完全不失真的信息传输呢?大家都没有信心,直到香农在论文里响亮地说:我有办法。

他的办法是什么呢?当然不是给电缆裹上更厚的防护罩。他认为,理论上,干扰不可能完全消除。不过,即便干扰造成信号部分受损,也照样有可能保持信息完整不失真。

听上去有些匪夷所思吧,信号受损怎么可能让信息不失真呢?

但是我们细想一下就明白,按照香农的理论,这个时候电缆里的信号已经变成了数字,而他用数学方法证明,只要优化数字编码方法,增加额外的冗余数字,哪怕线路干扰会造成一定比例的数字信号丢失,传输过去的信息也能保持完整。

不过,每一条线路都有它的极限,如果到了极限,无论如何改进和优化编码,都没办法保证不失真了。这个极限对应的数字信息传输速度,就被称为“香农极限

今天的我们,还在不断想办法提高信息传输速度,拿移动通讯来说,从3G到4G再到5G,其实就是在不断努力逼近香农极限。

上面说的,就是香农信息论的主要内容。他洞察了信息的本质,提出了信息度量的方法和基本单位,找到了提高信息传输质量的办法。可以说,现代通讯的基本特征就是通讯数字化,而通讯数字化的理论基础就是香农的信息论。今天你能看到的一切现代通讯工具和通讯方式,从互联网到移动网,本质上都是在传输数字,都是信息论的应用成果。

对今天的每一位计算机和通讯行业的从业人士来说,香农都称得上祖师爷。同时,我们每一天的生活,已经很难摆脱电脑、手机和互联网,而这些都和香农的贡献息息相关。

正是他,用满腔热忱和研究的精神,带领全人类进入了“信息的时代”。

毫不过誉地讲,如果没有这个通信的数学原理,也就没有了标准压缩图片、或是压缩文件、高清电影、数字通讯等。但它的影响远不止此,尽管信息的数学理论无法说明任何关于数据的意义,但是它打开了一种新的可能,关乎我们如何理解自身,使得我们都能够用数据测量和编码。

或许,会有人追问谁才是真正的人工智能信息传递的奠基者?

是约翰 · 冯 · 诺依曼?还是·图灵?说实话,缺了谁都不行。

1916 年 4 月 30 日,香农出生于美国密歇根州一个叫做 Gaylord 的小镇,1936 年获得密歇根大学的数学与电气工程学士学位 ,1940 年获得 MIT 数学硕士和博士学位,1941 年进入贝尔实验室工作。

晚年,香农患上阿尔兹海默症,在与病魔抗争了很长一段时间后,2001 年 2 月 26 日,香农逝世,享年 84 岁。

值得感谢!


总结

人的一生大部分时刻,无论在你的工作中、人际交往中、还是关系到你的幸福感的时候,归结起来就是发现问题,解决问题,好让你能继续前进。

香农或许是一个具有独特思维的天才,但他思考问题的过程并非常人所不可及。他的长处在于善于运用该过程来解决问题。

优秀的解决问题的能力关乎批判性思维和创造性思维。而综合两者的最好的方式便是在思考的过程中,让两者各放异彩。

思维模式塑造我们的思想。正确的思维模式,应该成为你我追求幸福生活的目标。

章参考文献:

[1]孙静.克劳德·香农信息论及其现实意义[J].青年记者

[2]《 A MIND AT PLAY : How Claude Shannon Invented the Information Age 》

    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多