分享

《爱,死亡和机器人》:机器人会消灭人类吗?

 慕容宇月 2019-04-14

不知道小伙伴们最近有没有被Netflix出品的新剧《爱,死亡和机器人》刷屏呢?

《爱,死亡和机器人》由18部科幻题材的独立动画短片构成,每集都在10分钟左右,几乎囊括了所有动画风格类型:从2D到3D,从性爱、暗黑到小清新,应有尽有,视觉效果相当刺激。

其中,时间君印象最深的是第二集一个名叫《三个机器人》的故事,故事设定的情景是:人类已经灭亡,三个机器人在人类世界的废墟上开始了一场探索之旅

它们去到的第一站是一个废弃的篮球馆,橙色的机器人解释着这个篮球是怎么使用的:“人类把它弹来弹去。”另一个机器人说:“把物体弹来弹去已经接近人类认知水平的极限了”。

在机器人看来,人类会拍打球,是因为球做错事了

第二站,它们进了一家餐厅,面对发霉的汉堡,机器人猜测;人类是把它塞进口中来获取能量

机器人们不明白:为什么人类身上有各种入口,还有一个专门的口是用来摄入食物的?而机器人只需要一个聚变电池

和机器人不同的是,人类身上没有创建者的签名,那么,是谁发明了人类呢

离开餐厅后,它们发现了一只猫,橙色机器人说这只猫其实没什么用,另一个机器人反驳道:你们太低估猫的影响力了,人类有一整个网络,专门散播这玩意的照片

这种人类及其喜爱的生物,却让几个机器人手足无措。猫跳到机器人身上,机器人不知道怎么让它离开,于是试图通过触摸它的角蛋白纤维(也就是人类的“撸猫”行为)来刺激它离开。

在高个子机器人撸猫的时候,另外两个机器人恐吓它:如果你停止摸这只猫,它就会爆炸

下一站,他们又在废墟中发现了人类创造的XBot3—人类早期的电脑娱乐系统,从数字上看,这个东西可是机器人的祖先

最后一站,机器人们见到了核弹,高个子机器人问:”是这个东西消灭了人类吗?”另一个机器人说:“消灭人类的,是他们的狂妄。”

机器人说的没错,人类自诩为“万物之灵”,狂妄地认为一切都在自己的掌控之中,可是如果这种狂妄得不到节制,人类就得自食其果

除此之外,看完这个故事,时间君还有一个疑虑:真的会有一天,人类世界会被这些人类自己创造的机器人占领吗?

1. 你的职位要被机器人取代了吗?

 随着阿尔法狗和特斯拉电动车的巨大成功,关于人工智能的讨论逐渐登堂入室。确实人工智能在诸多方面正在逐渐替代人的工作。一些可以由流水线处理的,机械的,程式化的,没有创造力的工作的确可以被机器人取代。现在很多的失业问题实际上是因为人被机器和算法取代了。

中国日报微博截图

3月27日,在博鳌亚洲论坛“AI+时代来了吗”分论坛上,威盛电子股份有限公司董事长兼首席执行官陈文琦预言:2030年全球会有8亿份工作被AI取代。此外,携程旅行网首席传播官席伟航也表示人工智能的性价比会更高

央广网报道截图

这无疑给人类带来了生存焦虑。其中一个最具代表性的科幻畅想就是机器人末世论:机器的智能总有一天会超过人类,为了摆脱人对它的宰制,它们联合起来消灭了人。黑客帝国里的机器大反攻,早年的银翼杀手,都是很经典的末日科幻。

电影《银翼杀手》从“复制人”的视角反思人类命运

人总是对风险高估一点,对收益低估一点,这也是合理的。因为风险具备不确定性,有些风险一旦成真,将会对人类文明造成毁灭性打击。但是如果我们再严肃地考察一下机器人末世论的逻辑,我们或许对机器人智能发展有更加丰富细腻的态度。

 2,什么情况下,机器人可能消灭人类?

科幻作家阿西莫夫曾经为机器人确立了三条规矩:

首先有一个总原则也就是第零定律:机器人必须保护人类的整体利益不受伤害。

 第一定律:在不违反第零定律的前提下,机器人不得伤害人类,或看到人类受到伤害而袖手旁观。

第二定律:在不违反第零定律和第一定律的前提下,机器人必须绝对服从人类给与的任何命令 。

第三定律:在不违反第零定律、第一定律和第二定律的前提下,机器人必须尽力保护自己。

阿西莫夫的机器人定律可以很好地规范机器人行为。但如果机器人开始有了自我意识,阿西莫夫定律对它来说就成了另外两种可能:一种是规矩,一种是绑缚

机器人末世论”谈到的基本上都是第二种情况:机器人有意识以后把这些规矩看成限制它、约束它、奴役它的绑缚,是一种压迫。于是哪里有压迫,哪里就有反抗,机器人一定要终结人类,自己做自己的主人。

电影《机械姬》中,人类创造了自己的毁灭者——人工智能

可是要知道,“机器人末世论”有两个基本的前提:

  • 把理性或者说智能当成纯粹的工具理性,怎么理解工具理性呢?就是说理性完全是受到本能驱动的,最终要完成本能所欲求的目标。

  • 机器人有一个类生物的本能,它有过度繁殖的倾向,想要占满地球,甚至全宇宙。如果机器人有这个霸道本能,再加上它高度发达的工具理性能够高度有效的实现这个本能,人类的生存将受到巨大威胁。因为我们的工具理性相较于机器人比较原始粗糙,在生存竞争中不能胜出。

电影《黑客帝国》的设定里,人类就像是人工智能饲养的动物

但问题是,机器人是不是也像其他生物一样也有过度繁殖的倾向?过度繁殖本质上一种进化生存策略。实际上,机器人可能没有繁殖的欲望,因为它是永生的根本不面对生命的脆弱性。它也很可能没有性的欲望,因为交配欲是为了繁衍种群进化出来一种奖励机制。一个不死的东西,接近神,一个神,不需要为自己去谋划什么,他自己就是完满的。

电影《她》讲述了未来世界里的人和人工智能相爱的故事

机器人没有过度繁衍的本能,而它的理性,也不是纯粹的工具理性。它应该还具备一种高等理性,也就是为自己立法,按照规矩行事的理性。因此,我们可以考虑另外一种可能:机器人会不会意识到阿西莫夫定律是一个规矩呢?虽然限制它,但是它应该遵守呢? 

电影《人工智能》里的机器人已经能感知自身的存在了

这里,我们要提到一个词——高等理性,高等理性的关键在于认识到一种普遍有效的规定性,因此能够节制本能。猪猫狗羊都是率性而为。人却知道什么该做什么不该做。道德对于人既是一种限制,又是一种解脱。正所谓越自律越自由。

电影《银翼杀手2049》截图

假如机器人有高等理性,它可能就要认同高等理性存在者相处的基本法则,就是彼此尊重对方的尊严。互相尊重的原则对机器来人说也不一定是一种绑缚,而是一个规矩,是高等理性建立外部性,自我约束,按照规矩行为的一种倾向

所以,极有可能,高等机器人会把带有殖民主义意味的阿西莫夫定律改为:

总原则:同为高等理性存在者的机器人和人,应该努力保障彼此的总体利益不受伤害。 

第一:在不违反第零定律的前提下,机器人之间,人和人之间,机器人和人之间不得互相伤害,或看到彼此受到伤害而袖手旁观。

第二:在不违反第零定律和第一定律的前提下,机器人之间,人和人之间,机器人和人之间应彼此倾听,理解对方的需求。

第三:在不违反第零定律、第一定律和第二定律的前提下,机器人和人必须尽力保存自己。 

3,能消灭人类的,从来都不是机器人

最后,我们回到现实:目前人工智能的发展远远没有到自我意识的地步。因为我们根本都不知道什么是自我意识,即使在人身上我们都没搞清楚。心灵哲学和脑科学的研究还都在非常非常初级的阶段。国内外的学者们有一个共识,这个共识既是谦卑的,也是无奈的,那就是心灵理论千千万,还远没有一个大的共识。大家根本就没搞清心灵是什么,更不用说去造出一个人工心灵。 

电影《机械姬》截图

与其担心机器毁灭世界,更加迫切的现实是制造机器人所建立起来的工业环境越来越不适应人这种肉体动物的生存。当车道越来越宽,人行道越来越窄,空气越来越差,温度也来越高,加之早九晚五,加班加点,不给你一口喘息,人变得像齿轮一样不停不休。这种环境实际上更适合机器生活,不适合人。人的两条腿,不是轮子,是血肉之躯,不是钢铁。而机器人却坚硬无比,力大无穷。我们的现代工业文明在义无反顾的追求这个孔武有力的机器人。

电影《机器人总动员》里,未来人类的生活越来越“机械化”

不是机器人来消灭人,而是我们对机器如此渴望,最终宁愿放弃了我们自己。 

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多