人工智能可能会在某天达到一种被称作“奇点”的状态，进而向不可思议的方向发展。
牛津大学人类未来研究所是一个由多个国家的科学家、数学家、哲学家构成的国际研究团队，以研究人类未来将面临何种灭绝危险作为自己的学术使命。日前，该所所长尼克·博斯特罗姆发出警示：人工智能领域的实验已经进入意料之外且后果难以控制的疆域。在不远的将来，人工智能会比人类变得更聪明，最终成为人类文明的“掘墓者”。人工智能，真的会对创造它们的人类构成致命的威胁吗？
反对者
聪明的是专家库不是机器
对于人类未来研究所和雨果的预测，中国科学院广州电子技术研究所从事计算机科学研究的黄其智高级工程师并不认同。他表示，人工智能在未来确实可以无限接近于人脑的思维，甚至可以表现得比人类更聪明，但不会失控，更加不会成为人类文明的毁灭者。
“人工智能有它的局限性：它的一切思维和做出的判断，都必须基于专家库的数据，即使是拥有了强大自我学习和推理能力的人工智能，它最初的原始架构也是人类赋予的。简而言之，本质上是先有人脑的思维在前，才有人工智能的思维在后。从目前的技术成果来看，人工智能获得所谓'自我进化’的能力是不可想象的。”
“图灵测试”是判断电脑是否具有人工智能最权威的测试：在测试人与被测试者(一个人和一台机器)隔开的情况下，通过一些装置（如键盘）向被测试者随意提问。在问过一些问题后，如果测试人不能确认被测试者30%的答复哪个是人的回答、哪个是机器的回答，那么这台机器就通过了测试，并被认为具有人工智能。而在最近几年的图灵测试中，人类确实有越来越不占优势的趋势。2000年，有机器人在5分钟的聊天中让30%的人相信它是人类；2008年，一台得分最高的机器让3名测试人相信它是人类；2012年，俄罗斯专家设计的“叶甫根尼”电脑程序，其29.2%的回答均成功“骗过”了测试人，取得了仅差0.8%便可通过图灵测试的成绩。机器人已经聪明到足以在“图灵测试”中主导对话，并且显示出和人一样的幽默感。“他”甚至会用调侃的方式暗示测试人自己就是一台机器，以至于多疑的测试人认定这是一名志愿者故意的误导行为，最终上了机器人的圈套，将其评定为“人类”。
针对在“图灵测试”中的人工智能越来越“类人”，甚至某些时候表现得比人类还聪明的趋势，黄其智表示：“这也只意味着人工智能背后的专家库系统越来越博大和精密，而并非机器人有了自发产生的智慧。它的幽默感也好，思维能力也好，本质上都是对其背后编程程序的执行而已。”
预测
人工智能“灾难”或50年后降临
被誉为“人工大脑之父”的雨果·德·加里斯教授是“人工智能威胁人类”观点的拥护者之一。
在雨果看来，“灾难”到来之前，人工智能会和人类有一段非常融洽的“蜜月期”。工业机器人、医疗机器人、聊天机器人、家务机器人、伙伴机器人……人工智能会普及到人类生活的每个领域，使人类彻底摆脱高危、枯燥、繁重的工作，使我们的生活获得前所未有的便利。
但是，人工智能最终会获得“自我进化”的能力，这是他们走向失控的节点所在。“人工智能并不是我们想象的那样——人类给予它们某种功能，它们才具备，否则就没有。它们已经在神经和智能上产生初级的自行进化，并且是以指数速度发展的进化。它们将会在某天突然达到一种称作'奇点’的状态，然后很有可能会失去控制，以我们无法想象的速度自行进化，最终将人类智能远远地抛在后面。”
雨果教授相信，到时候，人工智能将是人类的“万亿个万亿倍”。“它们面对人类，就仿佛人类面对蚊子、跳蚤甚至岩石，它们要消灭我们是轻而易举的，如同我们将蚊子拍死，将臭虫冲进下水道。谁会在消灭跳蚤的时候觉得这样太残忍？这也许是人类逃脱不了的宿命。”他还预测，人工智能的“灾难”也许在五十年后就会降临。
被“坏人”操纵
人工智能才会成为可怕的敌人
黄其智告诉记者，目前人工智能的信息采集技术仍在不断推进，机器在将来会具有更加灵敏、跟人的眼睛近似的“视觉”，而不再像现在这样需要工程师输入各种信息，或者依赖于比较低端的传感器采集方式；同时，心理学的最新研究成果也会不断被纳入专家库系统，使人工智能渐渐地不仅具有直线的逻辑推理能力，还具有预判的能力、发散思维的能力。基于这两点，他相信在不远的将来，会出现一种拥有自主学习能力、超强搜索和推理能力的“强人工智能”。它比人类更加“聪明”，产生一些连它的创造者都没有想过的论断、观点。
但尽管如此，他认为人类仍然不会对“强人工智能”失去控制权。“还是那句话：人工智能无论多么先进，都是人类制造出来的。即使在某一局部时间段，它会根据自己的意识判断做出一些偏离我们预期的行为，但人类完全有能力去制止它、控制它。另外，需要强调的是：人工智能无论多么聪明，都和人类智能有本质的不同。比如说，人工智能不会有自己的主观愿望——包括'造反’的意图；再比如，人工智能可能会拥有'意识’，但不会拥有人类的'下意识’，而人类奇妙的地方就在这里——我们有时正是根据'下意识’来做判断的。从本质上说，人工智能是靠严谨的逻辑、程序化的判断来进行工作的，绝大部分在'是与非’之间判断，很少有第三种判断或另辟蹊径的方法。”
但黄其智同时强调，人工智能并不因此就不具有风险。“在我看来，它的危险性主要体现在被某些野心勃勃的人利用和操纵。只有在这种情况下，人工智能才会成为人类可怕的敌人。”
另一种可能
人工智能可助人类获得“永生”
未来学家雷·库兹韦尔对人工智能的发展抱着一种乐观的态度。和雨果教授的估算差不多，他认为人工智能会在2045年达到技术“奇点”，但这并非人类的末日，恰恰相反，他认为人类会借助人工智能获得“永生”。
库兹韦尔去年刚刚受邀加盟某网络搜索公司担任工程主管。据悉，这间公司内部最吸引他的是一个神经网络项目，这个项目使机器具有“自学和深度学习”的能力。他相信，神经网络项目，连同公司现有的知识图谱和先进的语法分析系统，会帮助他在人工智能真正理解“自然语言”方面更快地获得成功。“我相信可以在2029年前实现这个目标。这不仅意味着人工智能获得了逻辑智力，同时也拥有了情感智力，能听懂玩笑话，理解人类感情——这其实是我们人脑所做的最复杂的事情，也是区别人类智能和人工智能最本质的东西。我相信这个差距会在2029年消失。”
他进一步指出，人工智能软硬件方面的飞速发展，若结合目前科学家在大脑皮层运作机制方面的成果，在20年之内，人工智能会赶上人类。而到2045年，人工智能的水平将会是人类智能的10亿倍。
但是人类无须为此感到恐慌。因为库兹韦尔同时预测：届时人工智能可以被储存在像红血球一样微小的“芯片”上，并且能轻易地被植入的大脑。同时，记忆和意识可以被储存到一个类似于“云”的思维容器中，人们可以随意删除记忆，也可以选择在任何年龄段学到任何知识；人类还可以将自己的意识上传到“数字空间”，人和机器从此深度关联，合二为一。这也意味着人类的意识从此不灭，人类借此获得“永生”。
库兹韦尔认为目前每个“地球人”的首要任务就是让自己健康地活到2045年，等待人类历史掀开新篇章。据说他本人现在每天都要吃掉200多颗保健药丸，希望能够撑到“奇点”实现。
别以为库兹韦尔的预言仅是玩笑，他并非幻想家。他曾在上世纪80年代预言电脑将会战胜世界象棋冠军，又在1999年预言无人驾驶汽车和能回答人类问题的手机会出现。这些预言都被一一证实。
但美国《怀疑论者》杂志出版人、著名科普作者米歇尔·舍默认为，库兹韦尔的预言，仅是实现第一步都非常难。从目前的技术发展来看，人工智能想要模拟人的大脑基本上是天方夜谭。“……所以，我对'奇点’的预测是：它十年之后会实现——但这是一个永远的十年之后。”（记者金叶）
