|
2016-03-15 20:02:25 
图片来自网络
壹读微信号：yiduiread
AlphaGo以4：1碾压了人类的代表李世乭。这只是一个开始。
我们与人工智能共存的时代，可能在我们的有生之年到来。对这个未来的不安，壹读君（微信：yiduiread）觉得很好理解，人类就像一个蹒跚学步的儿童，还没有搞明白怎么安全燃放烟花，就发明了原子弹。
那么问题来了：人工智能和人的距离到底有多远？
杀死一个人工智能，跟杀死一个人一样吗？
人工智能会理解人类的感情，比如诗歌和爱吗？
今天壹读君（微信：yiduiread）请来讨论这个问题的是↓ 负责编辑的值班壹读君丨宅殆
AlphaGo与李世乭的人机围棋大战，激发了无数或者不懂围棋、或者不懂人工智能，不过大部分情况是两者皆不懂的各色人等的想象力，产生了无数谈资、弹幕、段子和阴谋论。
比如有一个段子：“机器赢了人类不可怕，机器假装输给人类才可怕。”就是利用了对人工智能自主意识潜在的恐惧达到了传播的目的。
我们是否能够知道人工智能是否已经发展出了自我意识？
答案是：我们无法知道，因为我们并不理解人工智能。
我们不理解人工智能的原因是我们不理解自己 IBM科学家埃默森·M·匹尤说：如果我们的大脑简单到我们能够理解，我们就没有足够的智力去理解它。希腊古城特尔斐的阿波罗神殿上的那句名言也是：“认识你自己！”
△特尔斐的阿波罗神殿的名言：认识你自己
正是因为我们不能够认识我们自己，所以我们还没有办法去开发出真正像我们的人工智能。最古老的飞行梦想家都以为，只要能够像鸟那样扑腾翅膀，就能够让人也飞起来；但是直到我们有了空气动力学以后，我们才找到制造出飞行机器的正确路径，而扑腾翅膀不是那条正确路径。
△达芬奇设计的扑翼飞行器
AlphaGo所使用的深度神经网络很可能是那条正确的道路：模仿我们大脑中神经元的构造。人类的大脑，正是通过大量的神经元互相连接协同变化，最终产生了智力和意识。虽然AlphaGo现在在智力上已经超越了人类最顶尖的围棋棋手，但是依然有一个问题——它真的“理解”自己在做什么吗？
“理解”是一个哲学命题，它关乎到自我意识：我们能够理解一件事情，知道它究竟是什么，而不仅仅是某种大脑中的自动反应机制。我们能够感觉到“自我”的存在，能够自己做出决定，在心灵上我们是自由的。同时我们认为意识和智能是不能够分割的：有高智能的实体肯定拥有自我意识，而就算AlphaGo能够在围棋上碾压人类，它仍然没有显露出有自我意识的迹象。
在这里，不得不提到“中文房间”。
哲学家约翰·希尔勒在1980年就提出了一个思想实验，叫做“中文房间”。假设是这样的：假如说有一个对汉语一窍不通，只懂英文的人坐在一个密封的房间里。他手头有一本英语的手册，上面有如何处理汉字字符以及回复的完全指示。外面的人通过一个窗口向屋子里的人递纸条，上面写着汉语书写的问题，然后这个人依据手册将对应的汉字字符组合成回答传回给外面的人。
对于外面的人来说，这个屋子是会说中文的；但是里面的这个人却不会中文！ 在中文屋中的这个人他并不“理解”汉语，他只是按照手册行事而已；将这个房间换成计算机，将里面这个人换成计算机程序，将递给小屋里的问题换成围棋，那么这就是AlphaGo——它遵照着一套事先训练好的博弈模型行动，它是否真的“理解”了围棋？
那人类自己是否又理解围棋？ 这并不是一句废话。考虑到AlphaGo的神经网络就是模仿人类的神经元来构造的，如果我们把人类的大脑还原成神经突触的电刺激，那么人类下围棋时候，每一个神经元是否就能够“理解”围棋？这是一个让人发狂的问题。
围棋是基本规则非常简单，因而局面反而非常复杂的游戏。到目前为止，人类都只能借助于千百年来各路高手已经形成的开局、定式、变化，也就是许多相对固定的套路，来学习围棋。人类对围棋的理解，实际上可以说就是对这些套路和局部最优解的运用。AlphaGo的训练就采用了这种传统思路，参考了数万盘职业棋手的对局。
△元代的《玄玄棋经》
但是Google已经表示，之后他们将训练一个完全白板的AlphaGo：也就是不输入任何已知的棋局，直接在基本规则的基础上自我对弈来训练。这样成长起来的这个人工智能将会在棋盘上有何表现？这里有个可能性，如果说这个白板AlphaGo在与目前的这个AlphaGo战斗中胜利，那么就说明，人类这几百年来的对于围棋的理解是完全错了——至少也是一条歪路。
这将带来一个非常可怕的暗示：人类对于围棋的“理解”其实是完全没有意义的，只有纯粹的计算能力才有意义，自我意识在这里除了拖后腿之外没有用处。
这是一个可能的未来，一个阴暗的未来：我们对于智能的理解完全错了。拥有超级智能的机器或许并不需要有意识，它只需要根据反馈行动。从这个角度来说，刘慈欣在《三体》中提出的黑暗森林理论是根本无法应用的——如果对方只根据你的行动做出对应，那就无所谓猜疑链。将所有的唐诗宋词喂给电脑，它能够输出比肩李白的诗句；事实上现在的对联机已经能够输出黄庭坚级别的诗句了，但只是需要重复试验而已。
△壹读君（微信：yiduiread）随手找了个写诗软件写出来的命题诗
人类所有引以为豪的事情——文学、音乐、绘画、情感、艺术，对于人工智能而言只是一个更大的特征值矩阵而已。它完全有可能能够通过图灵测试却没有任何意识——它能够流利的跟任何人对话，却完全不需要明白自己在说什么。
我们不理解它们是因为我们不理解我们自己 长久以来人类认为自己的自我意识都是一种神秘的，超脱于物理世界之外的实体，自我意识处在另一个心灵的世界之中。这就是所谓的“身心二元论”，我们的物理身体是不会影响到我们的意识。但是现在科学的发展已经证明了这个看法是完全错误的。我们的情感很大程度上受激素和荷尔蒙影响；抑郁症也能够归因于神经递质的问题，可以吃药治疗。
甚至是自由意志——认知科学的实验证明了我们大脑中做决定的时间比我们能够意识到的还要更早。我们的大脑是一头大象，自我意识是一个骑象人：在某些时候骑象人可以指挥大象的方向，而在大部分时间里大象都自行其是。
同样，心理学的一个新兴的研究领域就是“具身认知”（Embodiment）：我们的生理体验与心理状态之间有着强烈的联系。生理体验“激活”心理感觉，反之亦然。我们在开心的时候会笑；而做出微笑的表情，人也会变得开心。自我意识不再是一种神秘的，存在于我们大脑中某个地方的结构；也并不是在知觉运动系统的背后存在一个心智；离开了身体，认知和心智根本就不存在。
所以没有“身体”，或者说“身体”的概念与我们截然不同的人工智能，会与我们有一样的心智和认知结构么？
恐怕不会。人工智能并不会具有我们可以想象的那种心智和认知结构，或者人格和情感。它对于情感对于艺术的感觉也会与我们截然不同——不过这并不妨碍人工智能去创造出好的艺术。
人工智能可以创造艺术吗？ AlphaGo胜利之后有一句话十分深刻：我们崇拜围棋的原因是因为我们不擅长围棋。
计算机已经可以创造出巴赫风格的音乐，但是它并不真的理解巴赫在我们心中所引起的那种感动。神经网络可以将一张金门大桥的照片转换成梵高的风格，但是它也不理解梵高到底是怎样的风格。
这让人想起刘慈欣在小说《诗云》里的描写：神级文明拆毁了太阳系，遍历了整个唐诗的状态空间，然而却没有办法去将那首最好的超越唐诗的作品找出来。实际上大刘的这篇小说犯了一个基本错误——创作本身就是一个从状态空间中筛选的过程，而遍历状态空间则不是创作。
假如说我们现在发明了一个人工智能，它的任务是创作出超越李白的唐诗——问题就在于“谁来以何种标准来判断是否超越李白”，而这个判断只能是人来给出。我们不相信人工智能能够以人的标准来判断诗。因为人工智能并不是李白，它也不可能成为李白。如果我们要求人工智能有人格，或者其他的一切我们能够想得到的特质，我相信有一天它会达到；但是它不会成为李白。 |
|
|
