第557期
【导语】
许多科幻小说和电影都描述过这样的场景：人类制造的机器人产生了自我意识，并开始与人类为敌，最终拥有人工智能的机器人几乎摧毁了人类文明。近年来，随着科技进步，机器人所拥有的人工智能也越来越先进，于是，很多人都提出了“机器人威胁论”，认为小说和电影里的场景将有可能发生。
昨天，在德国大众汽车制造厂发生的一幕似乎印证了这种担心，一名年仅21岁的技术人员在与同事一起安装机器人的时候，机器人突然抓住了他的胸部，然后使劲压在一块铁板上，最终这名技术人员因伤重不治身亡。同样在昨天，特斯拉CEO马斯克宣布，已经投入1000万美元用以评估与人工智能相关的风险。
不仅是马斯克，站在悲观角度上的人还包括斯蒂芬·霍金、比尔·盖茨等，他们是站在科技最前沿、看得最远的人。或许，他们对机器人等人工智能的质疑和警告或许并不只是杞人忧天。
●人工智能发展到什么程度了？
人工智能是计算机学科的分支，它是对人的意识、思维的信息过程的模拟。美国麻省理工学院教授温斯顿说：“人工智能就是研究如何使计算机去做过去只有人才能做的智能工作。”那现在具有人工智能的机器人到底能做些什么呢？
在很多人意识里，人工智能还是工厂里的那些机器人。飞利浦公司在中国有很多工厂，成百上千的工人使用特制工具手工装配电动剃须刀；在荷兰郊外同样的一所工厂中，128台机械臂灵活地做着同样工作。这些带摄像头的机器臂的技艺比最有经验的工匠还灵巧。
当今大部分自动化工厂里，机器人还在执行着单一的程序，但是在特斯拉的生产工厂里，已经有不少两米多高的红色机器人，像一个个“终结者”。每个机器人已经可以独立完成焊接，铆接，粘合，安装部件的工序。在生产线上，每隔五分钟就会有一辆车停留在加工点，接下来就有八台机器人各司其职的工作。
但是根据《经济学人》杂志的分析，这些所谓的人工智能都是应用于某一具体领域狭隘的能力。归根结底，是强大的数据处理能力而达到与人脑智力的“形似”，但至于如何模仿人的自主性、喜恶和欲求，成果则很少。
如今，通过“深度学习”系统，即对某个人类大脑表层的神经元进行复制并吸收大量数据，人工智能已经有了更高级的表现。
人工智能已经可以自学完成包括从模式识别到翻译等在内的任务。以前曾经还需要人脑完成的事情——如解释图片或玩一盘电子游戏，现在已经成为了电脑程序的一部分。2014年在Facebook上公布的DeepFace算法，已经能对不同的人脸以97%的概率准确识别。
在更多领域，人工智能技术已经能够通过弥补人类的能力极限来推进人类的开拓进程。比如国际象棋，如今计算机能比人玩得还要好，1997年，“深蓝”机器人就战胜了世界冠军卡斯帕罗夫。现在，世界上最优秀的玩家既不是机器也不是人，而是一群被卡斯帕罗夫称之为“半人马”的组合：一群由人类与计算机演算法配合组成的团队。
这样的人机组合可能将在未来成为各种工作与活动中的常规：在人工智能的辅助下，医生们在医疗图像中发现癌细胞的能力将大大增强；智能手机里的语音识别算法将使数百万不识字的人们也能够进入互联网的世界；数字助理将能够为学术研究提出更靠谱的假设；图片分类算法将使得便携式计算机能够帮助人们对现实世界的事物分类出更实用的信息。
●机器人为人类提供了便利，为什么还有人感到焦虑？
当前人工智能虽然对人类的帮助很大，但还是有不少人一直对它抱有怀疑态度，其中不乏站在科技前沿的人们。
人类历史上最伟大的物理学家之一霍金就说：“我们已经拥有原始形式的人工智能，而且已经证明非常有用。但我认为人工智能的完全发展会导致人类的终结……一旦经过人类的开发，人工智能将会自行发展，以加速度重新设计自己。由于受到缓慢的生物演化的限制，人类不能与之竞争，最终将会被代替。”
比尔·盖茨也表示：“如果我们处理得很好的话，这应该是具有积极意义的。那之后的几十年，人工智能会强大到足以引起人们的关注。”特斯拉CEO马斯克更是不止一次在公开场合表示，人工智能将成为巨大威胁：“我们需要万分警惕人工智能，它们比核武器更加危险！”
上世纪90年代以来，确实爆发过多起机器人“杀人”事件：1999年的两个月内，美国一家肉食品加工厂的两名工人就因为误操作启动机器人不幸身亡；2001年，一名汽车厂工人在进入机器人防护笼进行清洁工作时被机器人扼住喉咙压迫在滚轮下最终窒息身亡；2006年，一位女工被机器人挟住颈部钉在焊接机上，当场遇难……
当然，这些只是机器人低水平的“杀人”，让科技大佬和物理学家共同感到担心的是：人类发展机器人是为了让机器人更加智能、更好地为人类服务，可是，当机器人的发展程度超过某种程度时，机器人又很可能成为一种新的具备自我意识的个体，这个时候，这种人类历史上从未出现过的新物种是否还会甘于仅仅是服务于人类呢？
就像是几个月前上映的漫威电影《复仇者联盟之奥创纪元》，钢铁侠缔造奥创是希望它能够拯救人类，而奥创则脱离了人类的控制拥有了自己的思维，试图毁灭人类。
●拥有自我意识的机器人会是什么样？
机器人是否像人一样具有自我意识，这也是有了机器人以来，人们普遍担心、并且充满争议的议题。而无数的好莱坞电影曾反复展现过这一问题。最为人熟知的，可能就是阿诺·施瓦辛格主演的电影《终结者》当中的形象，当然，这是一款杀人机器人，从未来派过来要杀害未来抵抗运动领导者的母亲。
威尔·史密斯主演的电影《我，机器人》则相对《终结者》进行了更加深入的思考。它讲述了这样一个故事：公元2035年，智能型机器人已被人类广泛利用。作为最好的生产工具和人类伙伴，机器人在各个领域扮演着日益重要的角色，而由于众所周知的机器人“三大安全法则”的限制，人类对这些能够胜任各种工作且毫无怨言的伙伴充满信任，它们中的很多甚至已经成为一个家庭的组成成员。就在此时，一起“机器人犯罪”事件意外地发生了，“机器人之父”阿尔弗莱德·朗宁博士在办公室被机器人杀害。之后，机器人并开始对人类进行杀戮。
机器人的三定律就是著名的科幻小说作家阿西莫夫在小说中对机器人行为进行的设定：机器人不得伤害人类，或因不作为使人类受到伤害；除非违背第一法则，机器人必须服从人类的命令；在不违背第一及第二法则下，机器人必须保护自己。
几十年来，“机器人三定律”被默认为人工智能领域的天条，很多人没有想过，人工智能机器人是否能进化出自我意识。很多人也没有思考过，机器人违背第一法则怎么办？
这样的事情并非不可能发生，美国康奈尔大学创意机器人实验室主任利普森说：“从两年前决定不要去设计机器人，而是培养机器人，即把很多机器人的部件放到模拟器，让它进行演变。随着时间的推移，产生突变，培养它，变成机器人了。”
为什么是现在来讨论机器人的自我意识？利普森说：“一是3D打印技术的成熟，由于3D打印的特点，未来机器人不会由零部件构成，会直接打印；另一方面，是深度学习的发展。该概念源于人工神经网络的研究，通过组合低层特征形成更加抽象的高层表示属性类别或特征，以发现数据的分布式特征表示。经过十几年的发展，如今很多人都在尝试深度网络，进行自我训练，这是人工智能领域的巨大突破。”
利普森描述了一次深度学习时遭遇机器人的自我意识：“一次深度网络的图像识别中，培训神经网络在一堆图片中区分猫和狗的图片，然而，其中屏幕里一个神经网络开始追踪起显示器外的两位科学家的面部了。要知道这个网络并不是用来定义为来脸部追踪，而它慢慢学会了跟踪人脸，跟踪摄像头前面的两张人脸，这是令人惊讶惊喜的技术。”
2014年6月，英国雷丁大学宣布，有一个计算机程序成功让人类相信它是一个13岁的男孩，从而成为有史以来首台通过“图灵测试”的机器，这意味着机器也能像人类一样“思考”。图灵测试是指测试人在与被测试者(机器)隔开的情况下，通过一些装置(如键盘)向被测试者随意提问。问过一些问题后，如果被测试者超过30%的答复不能使测试人确认出哪个是人、哪个是机器的回答，那么这台机器就通过了测试，并被认为具有人类智能。
●机器人会造反吗？
这是个很难有答案的问题。
在乐观者人看来，人工智能的研究是希望机器的智能能够接近于人类，但是人类所具有的最重要的智能表现——创造性，却是机器人永远都难以超越的，它只能遵照人类为它设定的程序来执行。
而且，就好比军队需要受国民的监督，市场需要受法规的管理，而政府的行动必须透明、负责，人工智能系统也必须公开接受公众的详细监查。由于系统的设计者并不能预见每一种后果，设置一个中断系统的手段也是必须的。这些约束可以在不影响发展的情况下实施。从核导弹到交通法规，人类已经通过科学和法律来约束重大创新。
但这些并不能打消另一些人的忧虑：拥有自我意识的人工智能是否会甘于遵循人类既定的三大法则？更让人不安的地方在于，永远不知道机器人造反究竟时候到来，也并不知道机器人是否实际上已经具备了自我意识。
还有来自霍金的担忧：“计算机具备的人工智能将会在未来100年中的某个时点超越人类的智能。当这种情形发生时，我们必须确保计算机是站在人类这边的。”如果人工智能与它的主人想法不一样该怎么办？目前还难以给出答案。
于是，同样拥有这种担心的马斯克昨天宣布已经投入1000万美元用以评估与人工智能相关的风险。人类现在确实处于这样一种境地：一方面，人们正或多或少地享受着人工智的诱惑，另一方面，人工智能的“恐怖谷效应”又是无法回避的客观存在。
| 
