本文来自：《中国计算机学会通讯》第6期
今年1月，一位叫蒂姆·厄本的政治学本科毕业生在其商业推广博客上发表了一篇题为《人工智能革命：通往超级智能的道路》的文章。2月，这篇文章旋即被翻译成中文，并在微信上被冠以《人工智能达到奇点——最强论证文三部曲》的题目，广为传播。文中以“未来学家”库兹韦尔的“奇点理论”为基础，植入了各种科学臆想，夹带着没有来源和真实数据支持的手绘图表，还包含了诸如“时空穿梭”、“未来预测”、“超人工智能”等骇人听闻的名词，让广大读者尤其是普通民众读后感到甚为惊讶。这篇文章的结论是：“当一个超人工智能出生的时候，对我们来说就像一个全能的上帝降临地球一般。这时候我们所关心的就是：这是否会是一个仁慈的上帝？” 看完这篇文章，很多人不禁要问，人工智能是否真的快要发展到人类只能等死的地步了呢？作为一名从事人工智能研究的业内人士，我觉得很有必要澄清几个问题： 1.“奇点理论”是不是关于人工智能的科学理论？“奇点理论”与人工智能研究到底有什么关系？ 2.“未来学家”库兹韦尔是何方神圣？他推崇“奇点理论”的目的到底是什么？ 3.人工智能现在发展到了什么程度？我们有必要担心吗？
所谓“技术奇点”是指在未来的某个时期，当机器达到“强人工智能”时，其智商将超过人类，从而对人类社会造成巨大的冲击。最早提出“技术奇点”的是美国科幻作家弗诺·文奇[1]，他在1993年写到：“在30年内，我们将有实现超级人工智能的技术手段。在这之后，人类时代将会结束。”自称为“未来学家”的库兹韦尔在2005年的《奇点临近》一书[2]中，把“技术奇点”进一步转述为“奇点理论”：2045年将出现“奇点”时刻，人类文明走到终点，生物人将不复存在，取而代之的是一个叫做“奇点人”的新物种。换言之，库兹韦尔预测2045年人类将与机器融合，获得永生。 “奇点理论”到底是不是科学理论呢？首先，我们要了解科学理论的构成要素。美国国家科学院对科学理论的定义[3]是：在科学中，通过集成事实、定律、推断和经过实验的假设，对自然世界某种现象做出的充分解释。很明显，“奇点理论”并不符合科学理论的标准，更谈不上能对现代人工智能发展产生任何影响。 “奇点理论”既没有对该理论问题严格的数学表达，也没有严谨的证明。进一步来说，“奇点理论”没有提出任何实际的技术，没有可检验的度量标准，也没有基于数据的可重复的实验依据。所谓“技术奇点”，就是弗诺·文奇笔下的一个科幻素材，在库兹韦尔笔下摇身一变成了所谓的人工智能“奇点理论”学说，还顺带推出了“奇点大学”、“奇点人”、“奇点主义”等商业产品与概念。事实上，主流人工智能研究领域从未认可所谓“奇点理论”，也没有人从事相关的科学研究。在《奇点临近》这本书问世后的10年间，“奇点理论”没有衍生出任何有价值的具体科学技术，对人工智能技术的发展没有起到任何推动作用。
“奇点理论”的推崇者库兹韦尔是个什么人物呢？他是一个备受尊敬的人工智能领域的计算机科学家吗？ 在库兹韦尔的主页上[4]，他和比尔·盖茨的合影映入眼帘，他把自己描绘成一个“不知疲倦的天才”和一个“终极思考机器”，并称自己是语音合成等多项重大技术的发明人。事实是否如此呢？笔者检索了国际权威的人工智能组织——国际人工智能学会(AAAI)论文库，并未发现库兹韦尔或者其“奇点理论”的任何论文（如图1所示）。在德国DBLP论文库检索中，笔者发现库兹韦尔最近20年仅有的几篇文章要么是没有具体技术内容的摘要，要么是没有任何基于数据和科学实验的口水文章。也许有人会说，库兹韦尔不写科学论文，是个实践性发明人才。事实是否如此呢？库兹韦尔说他发明语音合成和语音识别这两点成立吗？ 做过语音研究的人都知道，语音识别技术最早是1932年从贝尔实验室开始的（基于频谱、非连续、限定语者及词汇）。图灵奖得主雷伊·雷蒂在斯坦福大学读博期间进一步研究了连续语音识别问题。后来在美国国防部高级研究计划署(DARPA)的资助下，IBM的弗雷德·贾里尼克和卡内基梅隆大学的贝克夫妇沿着统计的方向[5]，成功实现了基于隐马尔科夫模型的连续非特定人语音识别系统。语音合成最早也是由贝尔实验室研制vocoder[6]逐步发展起来的。目前常用的unit-selection语音合成技术发明人是卡内基梅隆大学的阿兰·布莱克[7]，另一个主流合成技术是隐马尔可夫模型(Hidden Markov Model，HMM)语音合成，二者均与库兹韦尔没有任何关系。至于库兹韦尔自称是“深度学习、机器人技术的奇才”，实在是白日做梦，不管是学术界还是工业界，从未听说过库兹韦尔有什么贡献。此外，他是不是发明了扫描仪、光学字符阅读器(OCR)、盲人阅读器，限于篇幅，留给读者自己研究吧。 库兹韦尔为何要推广“奇点理论”呢？在《奇点临近》原书第211页上，他介绍道：“我每天要吃250片大补丸，每周注射6次营养液，这样才能活到奇点来临的那一天。”库兹韦尔顺理成章地向其“奇点理论”的“粉丝”推出了自家昂贵的长寿保健药Ray&Terry[8]。不难看出，与其说库兹韦尔是研究人工智能的计算机科学家，不如说是一名“成功的企业家”。
库兹韦尔没有任何科研和学术背景，他是如何当上受到媒体追捧的“人工智能专家”和“未来学家”的呢？美国哥伦比亚广播公司(CBS)早在2010年就对库兹韦尔推销垃圾科学(junk science)的方法做了详尽分析[8]，指出库兹韦尔推销垃圾科学的手段主要有： 1. 抓住消费者的恐惧心理 库兹韦尔经常鼓吹要把人脑植入计算机避免死亡，超强人工智能要毁灭人类，其实就是抓住了人们害怕的心理。 2. 抓住流行文化 抓住廉价的科幻材料，抓住流行文化，让大家更加相信他的理论。库兹韦尔曾经拍电影来推广他的理论。 3. 利用社会传播而非科学论证 库兹韦尔最常用的做法就是引用其他一些所谓社会名人的论断（比如千年虫Y2K），而不用科学的手段来论证。 4. 从权威而不从事实出发 从库兹韦尔的网页我们就能看出，他的各种伪造的事迹、奖项、与名人的合影让大家相信他是权威。 5. 伪造证据 美国哥伦比亚广播公司介绍，库兹韦尔曾经在2002年引用了一份不存在的高德纳(Gartner)研究报告来佐证自己的观点。 6. 把真实的科学当做垃圾科学 库兹韦尔认为：气候变化这项大气和环境科学家多年的研究成果是一个骗局。 7. 用家庭成员来证明自己的可信度 《纽约时报》介绍，库兹韦尔曾经在一份证词上用自己的儿子证明自己可信。 8. 利用容易受骗的记者来传播消息 库兹韦尔经常欺骗类似阿什利·范斯(Ashlee Vance)这样的记者来传播他的“正面”新闻。
目前人工智能技术的发展是否值得人类担忧自身的安全呢？我的回答是：“完全没必要担心。” 目前可以用的人工智能应用有语音识别、图像分类、广告点击率预测、机器翻译、简单问答与对话系统等。在这些应用中，有不少实际使用的开放系统的准确率达不到期望（如亚马逊的最新智能家居助理Alexa）。在语音识别领域，对于老人、小孩或者是带有浓重地方口音的口语单词识别错误率非常高。 在机器翻译中，对西班牙语与英语的翻译已经取得了一些成果，但是将中文、阿拉伯语自动翻译成英语的结果差强人意。至于机器人的智商能否在未来10年超过人类，甚至消灭人类，我觉得图2中的情况可能会反复出现。 深度学习是机器学习的一个重要分支，主要关注用神经网络做特征的学习。目前深度学习中进展较大的也是语音识别、图像分类、文本分类等传统问题，取得的主要成果是：通过大数据，增加模型参数，降低不一致性(variance)，增强机器学习模型的健壮性，从而提高任务的准确率。我们要肯定这些进步，但也要认识到，当前的深度学习技术在知识推理、逻辑、规划、机器人等人工智能核心领域还没有取得突破性的科学成果。 人工智能的学者是不是只关心技术，不关心法律、经济和社会问题呢？这个答案是否定的。每年有很多关于人工智能与社会福利的研究[9]，也有很多学者在从事人工智能对隐私、法律、经济、安全和社会的研究[10~12]。最近国际人工智能学会前主席埃里克·霍维茨(Eric Horvitz)在斯坦福大学提出了人工智能100年研究计划，指出人工智能未来100年需要涉及人类的方方面面，以及如何为人类服务。 比起普通民众的担忧，不少人工智能学者的担忧往往相反：目前人工智能的应用还比较初级，根本谈不上智能。甚至很多学者认为现在的计算机连真正理解人类的语义也无法做到。引用卡内基梅隆大学计算机学院教授爱德华·霍威的话：“你们这些做研究的，机器分类的准确率再提高1%有什么用？我根本不关心。我问你‘什么是语义’，你的程序能回答吗？ 我问计算机程序一个简单问题，‘小明买了一辆车’，句子里的‘买’对于计算机来说到底是什么意思，应该怎么表述？” 对于计算机科学家来说，不论是从工程上还是从科学上来讲，人工智能的研究任重而道远，切不可沾沾自喜。至于机器人能否消灭人类？我们可以引用Embodied Conversational Agents作者贾斯丁·卡塞尔教授的一句话：“不用怕，等20分钟他们（机器人）就没电了。”
参考文献 |
|
|
