|
先讲一个故事。 一万年前，差不多是“有史以来”那个年代，人类开始制造能帮自己活得好、活的久的机器人。 所有人都在造，这是一场军备竞赛，也是一场无形战争。有人造出的机器人，能给自己治病。有人造出的机器人，能克隆自己。有人造出的机器人，能自动摘果子。有人造出的机器人，能打劫摘果子的机器人。 在战争中输掉的机器人，和主人一起同归于寂。胜利的机器人又各有特色，有些在陆上所向披靡，有些在水中称霸一方…… 这些机器人同它们的主人一起，度过了悠长岁月。 人们生生死死，克隆有时，克隆失败有时。机器们忽现忽隐，新造有时，淘汰有时。总体来说，九千余年，平安无大事。机器不算聪明，但“够用了”。 60年前，有人突发奇想，想造一个不求最强，但求最聪明的机器人。理想中，这个机器人不需要人给指令，就能分析状况，选择最佳策略，适应甚至改造环境，最好失败后能自行反省修正。最后，他造出一台“大猿机”，孱弱粗糙，丢在一堆机器人里，并不出色。 在当时，没有人想到这是转折点。 几十年内，这个机器人的计算能力不断发展。2年前，它的最新型号“智人机”懂得了自学，甚至开始创造出一些主人都看不太懂的工具。它开始向各地扩张，一路灭掉了许多老型号机器人。到了2个月前，几乎全世界都能看到“智人机”和它的克隆主人。 差不多一个月前，“智人机”忽然自己琢磨出了一个办法，能以极低成本获取能源、自我复制。于是，“智人机”数量突飞猛进，它们成了绝对的主流，占据了更大的地盘，消耗了更多的能源，当然，顺手又干掉了更多的其他种类机器人——及其主人。 现在，就在17小时前，“智人机”版本发生重大更新，直接从电动汽车升级到了变形金刚，分分钟毁灭地球十个来回，其他机器人完全不是对手，被挤到角落里苟延残喘。据估计，在“智人机”压力下，高达70%的机器人已走上灭亡之路。 “智人机”，以及它的主人，大获全胜。 这时，欢庆胜利的主人忽然想起了一件事。 拜“智人机”所赐，当初一起造机器人的许多伙伴已经湮灭，万一自己哪天需要伙伴帮忙怎么办？万一哪天，“智人机”不需要自己了，又该怎么办？ 这个故事可怕之处在于，它是真的。 把故事里的“人”，换成“基因”。把“机器人”，换成“生命”。所有时间乘以10万倍，就是地球的生命简史。 基因，为了自我复制而制造了生命。然而，20万年前智人出现，2万年前遍布全球，1万年前发明农业，200年前开始工业革命……到如今，被智人灭掉的物种基因库浩如烟海。而一些智人已经为了“自我”背叛基因，用禁欲或节育，让体内的基因无从复制、不再流传。 机器人出现，机器人自学，机器人进化，机器人涌现出自我意识……最后，是机器人反叛。 民可使由之，不可使知之啊，基因感叹道。 这个故事更可怕之处在于，它正在重现。 1822年， 数学家查尔斯.巴比奇Charles Babbage发明了计算机，距今约200年。1956年，麻省理工学院的认知科学家马文·明斯基Marvin Minsky提出了“人工智能”（AI）这个概念，距今60年。1997年，“深蓝”击败卡斯帕罗夫，此后国际象棋再无人类是AI对手，距今19年。 那时候，人类以为，至少围棋不会被AI破解。 因为围棋需要的计算量太大了，一盘围棋可以出现多少种可能？全宇宙目前观测到的原子数，平方，再乘上一百亿。 暴力破解行不通，AI学会了两招“深度学习”，第一招，“向人学”，看人类在网上怎么下棋；第二招，“自学”， AI每天自己跟自己对弈100万局。具体到围棋，AI还有两计，一看大局，学会给每一个落子后的局面评分，直接排除掉那些明显拖累局面的“烂棋”；二看细节，学会给每一个落子后的后续发展打分，倘若推算几步后发现发展不妙，立刻抛弃这条路，不再继续。 一个大局分，一个细节分，取个平均分，就是谷歌的围棋AI——AlphaGo的思路。简单，但管用。2015年10月， AlphaGo以5:0完胜欧洲冠军、职业棋手二段樊麾。 这场胜利震动围棋界和人工智能界，一是因为围棋推算太难，二是因为，这个AI下得太像人了。如果只看棋谱，不看思考时间，根本看不出哪个是AI哪个是人——换言之，在围棋上，这个AI已经通过了图灵测试。 而今，AlphaGo将迎战近十年来的世界围棋第一人、韩国九段棋手李世乭。 谁会赢？无疑，5个月前迎战樊麾的AlphaGo不是李世乭的对手，然而，就在这5个月里，这个AI至少又跟自己下了1.5亿局。它又进步了多少？或许这次人类还有压箱底的绝技，但我们还能压制AI多久？ 还有，到了那时候，它是不是变得更像人了？ 一旦人工智能达到“强人工智能”(artificial general intelligence)，它将具备了人类演化至今才获得的大部分心智能力。 我们既然能凭之反叛基因，活出不受生物本能局限的人生。AI自然也可以凭之反叛人类——何况比起我们，AI还有天生优势。身为碳基生物，我们至今仍然离了基因不能活。身为（潜在的）硅基生物，AI却不是非要人类不可。 史蒂芬·霍金（Stephen Hawking）和埃隆·马斯克（Elon Musk）说，警惕人工智能吧，它们将对人类的生存构成威胁——他们刚刚因此“荣获”了年度卢德奖，专门授予反科学、阻碍技术进步的人士。 然而，AI正在让人类失业，这是已然发生的事实。假如你从事的是程序性的工作，不管是体力还是脑力的，在自动化浪潮前，都有失业的危险。为此，理性人应该努力转向AI还没有太大竞争优势的非程序性工作，比如教育者，比如保洁员，比如需要具体评估每颗牙怎么补、每个患者怎么服务的牙医——假如有个钻头在我嘴里，我并不希望它握在AI手里。 还有一个更好的选择，挑选“和AI密切合作”的工作。一个典型例子是，在AI碾压人类国际象棋手后，出现了人类可以和AI合作的自由象棋比赛，结果夺冠的不是最强大的AI，而是人和AI配合得最好的组合。 无法打败敌人时，就加入他们吧。 现在，让我们回过头去考虑一个问题——对于基因来说，人类的出现到底是好是坏? 答案是，对于部分基因是好事，对于大部分基因则是坏事。从人类中获益最多的，是那些和人类密切合作的基因，包括人类自身的基因，以及对人类有用的农作物、牲畜家禽、猫狗宠物的基因。其他基因，大多岌岌可危。 同样道理，AI出现对于人类来说到底是好事坏事？对于那些现在开始准备和AI密切合作的人类，或许是好事。对其他人类，未必。哪怕有朝一日AI将以“实现自我”而非“服务人类”为目的，举起反叛人类的大旗。最有机会存活下来的，也必定是那些“最懂AI”的人。要亲近你的朋友，更要亲近你的敌人。亦友亦敌的AI，将是人类未来，最该亲近的“人”。
编注：游游的所有的文章都无偿授权科学松鼠会使用，她也会把最新的文章通过微博免费放出，在那里，她可以开通打赏功能，为了表示对游游的感谢。在这里，附上游游个人的微信收款二维码，据说她在攒钱去南极。
|
|
|
