即使人工智能最终取代人类,那又怎样? ——李世石PK阿尔法狗:又一场“人机”大战,又一场秀,又一场全民商业狂欢。 文/长弓槊 Part 2:“人工智能恐惧”——人类担忧和恐惧的究竟是什么? 接下来,我想聊聊一些更深的话题:大众对于以人工智能AI为代表的技术发展的不解和威胁感,以及对于人类自身脆弱属性的恐惧。且听笔者慢慢道来。
历史悠久的隐喻与科幻文学 机械、工业、机器人、人工智能,似乎每一次大变革,人类总会担心新玩意儿会不会取代人类,甚至统治人类,清朝的皇帝、英国维多利亚末期的马车夫与21世纪的现代人在这一点上惊人的一致。 直至伟大的科幻作家阿西莫夫在1941年发表的《环舞》(Runaround) 中提出了举世闻名的“机器人三原则”(一、机器人不得伤害人类,或看到人类受到伤害而袖手旁观;二、在不违反第一定律的前提下,机器人必须绝对服从人类给与的任何命令;三、在不违反第一定律和第二定律的前提下,机器人必须尽力保护自己)才算喂人类吃下了一颗定心丸。
紧接着1963年,另一位更加富有传奇色彩的科幻作家菲利普.K.迪克(说起《高奇堡人》和《银翼杀手》或许读者们会更熟悉)发表了科幻小说《泰坦棋手》(The Game-Players of Titan),则更加深入,可以说,这本小说把1997年和2016年的两场“人机大战”说干净了。 用微博网友@古拉格的回忆的话说:比什么阿西莫夫,海因里希,克拉克不知道高到哪里去,他和雷特利斯考谈笑风生。本书具体内容笔者不便剧透,感兴趣的朋友可以找来读一读(笔者墙裂推荐)。 科幻文学界超级大拿菲利普.K.迪克《泰坦棋手》中译本 电影加把力——从机器人到人工智能 电影工业的发展也为这种担忧与恐惧推波助澜,《终结者》系列更将“机器人最终统治人类”的观点坐实,而大众对人工智能的恐惧也达到了顶峰,即使孔武有力的州长始终对约翰.康纳一家保持无比忠诚,即使在《终结者5》里男主和州长大玩穿越KO天网、即使人类最终胜利了,可还是无法回避这一预设的事实:绝大部分人类over了。 但是“机器人”的设定,显然带着工业时代的烙印,而《终结者》更加偏重的,是利用末世情结、废土渲染和宏大叙事三大手法,传达美式三板斧:英雄主义、屌丝逆袭和普世人民大团结。 将人工智能话题深入思考和详细表达的,倒是另两部影响力稍逊的电影:公映于2008年的《鹰眼》(Eagle Eye),和公映于2009年的《夺命手机》(Echelon Conspiracy)《鹰眼》(Eagle Eye)海报 《夺命手机》(Echelon Conspiracy)海报 除去动作火爆、情节紧凑、阴谋论主线等共同点,这两部电影都提供了一个人工智进化和影响人类社会的清晰路径: 1.原先是军方开发和操控的国防系统→ 2.触发自我意识→ 3.通过视频监控和云计算分析大数据→ 4.利用通讯工具控制某个“不相干的个人”→ 5.利用个人启动程序,最终引发全球混乱→ 6.收拾残局,该系统控制人类社会。 所幸,两部影片的情节,在系统利用主角启动第步骤5之前,都被全程笼罩光环且觉悟高尚的主角破坏了,但影片在叙述中也很明白的暗示了:如果没有主角破坏,那么第5和第6步骤的发生是必然的。 这些步骤,在《终结者》系列中其实也是作为预设的,但重点没有放在这上面,而且《终结者》中“天网”的设定是“灭绝人类统治地球”,而《鹰眼》里的“鹰眼”和《夺命手机》里的“梯阵”的设定是“控制人类社会”。 笔者认为,虽然“控制人类社会”比起“灭绝人类统治地球”来显得不那么刺激和吸引眼球,但是更加实际一些;“天网”的模式类似于成吉思汗:人全部杀光,我只要土地。“鹰眼”和“梯阵”则更像是殖民者和《1984》里的老大哥:我留着你们的命,但你们要服从于我、供养我、为我办事。
三级恐惧 说到这里,我们可以总结一下,人类对于人工智能的担忧和恐惧,分为三个层次:1.人类输了,而且输给了自己创造的东西,人类的荣誉和地位不复往昔;2.人工智能会像独裁者那样对待我们;3.人类彻底沦为人工智能的无意识奴隶。 第三个层次的恐惧,沃卓斯基兄弟(现在是沃卓斯基姐妹)导演的《黑客帝国》三部曲里有展示了一幅清晰的末日图景:人类沦为为“矩阵”提供动力的生物电池,彻底失去了人类意识,只是生物层面的人——真的成为了“一颗螺丝钉”。
艺术来源于生活 以上,笔者利用了4部电影来分析了人工智能取代和统治人类的路径,以及人类对其的担忧与恐惧的3个层次。 那么,我们到底在担忧些什么呢? 对应上文的三级恐惧,我们做个缩略:1.失去荣誉与地位;2.失去自由;3.失去意识和生命。而笔者想要指出的是,这些恐惧,并不是只有人工智能能够带来的,这些都发生在我们祖先生活的过去、我们生活的当下以及我们后代可能生活的将来——或许是战争,或许是灾荒,或许是瘟疫,或许是某些伟大领袖...算了,这个不能说太多。
|
|