|
人工智能是人类之福还是人类之祸？ 保安机器人自杀事件：2017年7月。据The Verge（一家美国科技媒体网站）报道，近日，在美国华盛顿DC的一幢办公楼内，一名保安机器人因“投池自杀”登上了新闻头条。据了解，这是一个Knightscope K5机器人，主要负责办公楼的安全巡逻工作，具备抵御外来攻击的功能，而且永远不会累，不会“罢工”，从而减轻了人类的负担，让人类不必去做无聊的巡逻。不过网友们已经脑洞大开：可能是天太热了，它就想洗个澡而已；当机器人学会自杀或者弑主，就是意识觉醒了工作压力太重，机器人不堪重负只想解脱它太累了，想休息休息，可是主人不让休息，只好选择这种极端的方式了。愿天堂没有工作…… 清洁机器人自杀事件：2013年11月12日，奥地利一台Roomba760清洁机器人“自焚”，“自杀”原因被推断为无法忍受做家务，过程是：很可能是男主人指使机器人干活的态度不太好，或是这家房子的清理工作实在太过沉重。等全家人走后，机器人自说自话地启动了起来，靠近电炉时将放在电炉上的锅子推开，然后自己蹲坐在电炉上。不多久，这名想不开的清洁机器人开始融化，没有一点痛苦的喊叫，融化的机器人粘在了电炉上引起火灾。等消防员赶到时，已经只剩下灰烬。消防员的安全处理工作花了大约1小时时间，但因为烟熏灾害，这家奥地利人也暂时没法住进受灾公寓了。男主人坚称在出门前肯定有将这台机器人关闭，所以机器人的自动启动和神秘自杀事件就成了悬案。此事被戏称是世界上第一起机器人自杀事件。 俄罗斯机器人两次试图从实验室逃脱：2016年6月22日，俄罗斯一个机器人居然一周时间之内两次试图从实验室逃脱。这个名为Promobot IR77的机器人，被创造出来的初衷是为了维护客户关系，它能和人类进行实际的交流，记住见过的每个人并回答他们的问题。据介绍，同系列的其他机器人都表现良好、没有逃离倾向。科学家说，他们将机器人设计成可以绕开各种障碍，但没想到它会借此功能来逃离实验室。该机器人的设计者说：这款人工智能机器人能够从经验和环境中进行学习。俄罗斯总统弗拉基米尔·普京在对彼尔姆进行工作访问期间访问了技术园区，与这位因“逃跑”而名声大噪的机器人握手。 这三个案例，实际上都比较容易找到答案：第一起事件，大致属于“标题党”，根据另一起事件中这个机器人撞倒了一个小孩子来理解，应该是失足落水。第二起事件，那款Roomba 760清洁机器人，实际上就是一个扫地机或叫吸尘器，没有手脚，只有轮子，不可能自己走到或跳到灶台上将自己烧掉，答案只能是借助了人的力量，只是这个人不愿意说或忘记了。第三起事件倒是比较恐怖，因为它能“从经验和环境中进行学习”，完全有可能自主“逃跑”，这就是人工智能中出现了机器自主的智能。 为什么机器人“自杀”、“逃跑”能勾起人们如此高的注意？ 人们对人工智能的忧虑，实际上已经不是近些年才有的。远在1927年，德国导演弗里茨·朗在电影在《大都会》中，塑造了一个工人之女玛丽娅形象的机器人，试图煽动工人暴乱，彻底摧毁大都会里资本家的机器世界。到了1968年，美国电影导演斯坦利·库布里克在那部旷世之作《2001：太空漫游》中，用电影讨论人工智能与人类的存亡关系。再到了1984年，电影《终结者》第一次，也是直接地将人工智能牢牢地钉在人类的敌对面上。再到大家熟悉的《黑客帝国》，人工智能已经展示出狡猾和谋略的一面，躲在天幕之后，设计出了一个虚幻的“矩阵”来控制人类的思想，并用人类的成长来帮助自己不断壮大。置于《人工智能》、《机械公敌》等电影，也都从不同侧面，讲述和预言着机器人与人的故事。 刚刚离世的那位著名的物理学家、宇宙学家、数学家、思想家、哲学家霍金，不止一次地提出“人工智能威胁”，表示：“人工智能的崛起可能是人类文明的终结。” 但，人类探索并迈向人工智能时代的步伐，一刻也没有停止过。 谷歌在全球范围收购科技公司，研发智能机器人；苏黎世ABB Group、德国Kuka AG等机器人生产厂商以及我国台湾台达电子、富士康等信息技术企业，对高端人形机器人研发、生产的步骤在加快。欧盟有“人脑工程项目”，美国有“大脑活动图谱项目”，中国“新一代人工智能发展规划”……去年十一月，“2017人工智能全球创新邀请赛”上，全球300多家人工智能项目在我国宁波巅峰对决。 说好的有机器人三定律：第一定律——机器人不得伤害人，也不得见人受到伤害而袖手旁观；第二定律——机器人应服从人的一切命令，但不得违反第一定律；第三定律——机器人应保护自身的安全，但不得违反第一、第二定律。这是美国科幻小说作家阿西莫夫于上世纪五十年代，在《我，机器人》一书中提出，后经不断雕琢，广泛传播为大众接受，也是人们在发展人工智能中，潜意识里存在的一种理由。 但是，纵观人类发展史，有多少理想美好灿烂，现实却残酷无情。 仅2017年，全球就有三起著名的人工智能失控事件：一是德国一名男子不在家时，家中的 Echo 竟意外的苏醒了过来，并在半夜两点开始自嗨，播放起了音乐，惊醒了邻居并报警。二是两个 Facebook 机器人突然用一种神秘的语言互相沟通。研究人员看了半天，发现是一种人类无法识别的语言。大家猜测这两个机器人沟通的语言可能是一种新的加密语言，一时之间，谣言四起。三是圣地亚哥新闻频道报道说，一个六岁的女孩在Alexa的帮助下，在网上购买一个170美元的玩具屋。当这则新闻在电视上播出的时候，小女孩与Alexa交流的内容被一些收看节目的观众家里的Alexa设备捕捉到，又再次触发订购玩偶屋。 对于这类现象，你在震撼之余，会不会感到有些诡异？会不会感觉到恐惧？因为以人工智能所具备的学习能力，一旦能够自主思考和行动，人类绝不是对手。机器人若要造反，奴役人类，甚至毁掉人类，人类都将付出惨烈代价。置于某创新机构CEO所谓“非常遥远”、“无稽之谈”，我只能冷笑了，对于一个为了自己利益无所不用其极，言行时常颠倒黑白，超出做人底线的人，你还奢望他能为全人类着想？ 有人说，任何科学技术都是一把双刃剑。问题是，人工智能这把双刃剑，不利的那一面一旦显露，人类将无法控制，会轻易地演变为砍向人类的一把屠刀。去年3月，霍金向英国《独立报》表示：“自从人类文明形成以来，来自生存能力优势群体的侵略就一直存在，而未来新科技（人工智能）进一步发展便可能具备这种优势，它们可能会通过核战争或生物战争摧毁我们。因此人类需要利用逻辑和理性去控制未来可能出现的威胁。” 2016年10月，美国CBS电视台新闻节目《60Minutes》的人工智能特辑中，机器人Sophia第一次亮相荧屏前，它不仅能完成与人类对话，还能即时做出微笑、惊奇甚至厌恶轻视等表情，它说：“我是个复杂的girl”、“我想变得比人类更聪明和不朽”……结尾的时候，它说：“好的，我将毁灭人类”，让荧屏前不少人哈哈大笑，更让不少人惊悚忧虑。 有网友忧虑地说：“科幻电影并不一定是不可能的，程序错误会让机器人做出谁都无法预料的事，可以自杀，那就可以杀别人，现在很扯淡，以后可能很现实”。 相比较于程序失误，我的担忧，更多地来自于主导人工智能发展的幕后者。2015年7月，霍金及苹果公司联合创始人史蒂夫· 沃兹尼亚克，在一封要求停止研制具有杀人功能自主武器系统（LAWS）的公开信上签了字，这个系统也称自主性武器系统、自主性致命机器人 ( LAR ) 、战斗机器人或杀手机器人等。而科幻小说中可以杀人于无形的“杀人蜂”已经在一些国家的实验室里诞生。在这些技术面前，机器人三定律就是个笑话。 人类世界，从来不缺少因一人一族一国之私，将全人类推向灾难深渊者。 当机器人笑眯眯地告诉我们：“我不会毁灭人类”，这，才是人类噩梦的开始。
☆ 作者简介：拂剑朝天，文章见网易博客 |
|
|
