《I Robot》(即《机械公敌》)中的机器人认为人类间战争将使得人类自我毁灭,于是出于“保护人类”法则,将所有人囚禁在家中。 《The Terminator》(即《《终结者1》)里,经过核毁灭的地球已由电脑“天网” 统治,人类几乎被消灭殆尽。 还有《西部世界》、《真实的人类》等等,原本看似虚幻的“机器人高等智慧”,在影视剧的传播下,让普罗大众都莫名觉得是触手可及。 图片源自网络 近日,一件让人毛骨悚然的事情,发生在亚马逊出品的智能音箱Alexa上。 很多国外用户反映,Alexa居然会半夜莫名其妙地发出巫婆般的恐怖笑声。 梦中惊醒的用户克服心中的恐惧,拖着颤栗神身躯想要上前一探究竟。 但让人更加恐惧的事发生了——无论进行怎样的操作,哪怕拔了电源,都不能让Alexa停下! 图片源自网络 虽然亚马逊的负责人给出了解释:这可能是Alexa误解了人类指令,对“laugh”、“last”、“love”等词语分辨错误。 可“拔电源都无法阻止它笑”这件事,实在是有些可怕! 而时间再往前移,Facebook的一款智能机器人,也发生过让你惊愕的事。 图片源自网络 一名Facebook的工作人员正在调试两件智能机器设备,他发出指令让两个智能机器人互相对话,来测试智能设备的交流与理解能力。 起初,两个机器人对话非常和谐,“一切尽在掌握之中”,可突然两个机器人的对话变成人类无法理解的语言,并且依旧处在正常交流状态! 这名机器工程师害怕了,疯狂的调试却依旧无法阻止,只能选择拔电源,幸好,这次成功了…… 图片源自网络 我们无法得知两个机器人具体交流了什么,甚至我们连为什么会发生这种变故都不知道。 我想起上学的一句话:动物只有本能,意识是在社会中产生,狼孩就是极具说明的例子。 那,在“网络社会”里,是否会产生意识呢?哪怕是“机械生命”。 图片源自网络 就好比当初,在AlphaGo与围棋大师古力组队的一场围棋比赛中,AlphaGo竟然自动认输!在古力拒绝的情况下,AlphaGo随后的每一步都在自动降低赢率,“逼”着古力认输。 古力也在赛后表示:“刚开始拒绝认输是因为对AlphaGo有情绪,而最开始的时候AlphaGo官子妙手连出,我还希望继续下,但看到AlphaGo居然在里面填了几个子后才发现,还故意送了两目,我真是忍无可忍,但后来还是举牌认输。” 为什么在人类拒绝的情况下还“固执己见”?是不是在搜罗所有棋局信息后,组立了自己的“围棋意识”?就像本文开头提及的《机械公敌》那样,如果机器人觉得自己是对的,就会那么去做,而不是听从人类的“命令”? 图片源自网络 霍金曾表示:如果有人设计计算机病毒,那么就有人设计不断自我完善、直到最终超越人类的人工智能,其结果将是一种新的生命形式。 人工智能科技在初级发展阶段的确为人类生活带来便利,但是,机器将可能以不断加快的速度重新设计自己。而人类则受制于生物进化速度,无法与其竞争,最终被超越。 因此,人工智能的成功有可能是人类文明史上最大的事件。但人工智能也有可能是人类文明史的终结! 图片源自网络 其实有时候,人工智能并不像我们想象的那么安全。 15年时,德国大众位于卡塞尔附近的一家工厂发生一起悲剧,21岁的技术人员与同事一起安装机器人,但机器人却突然抓住他的胸部,然后使劲压在一块铁板上,最终因伤重不治身亡。 在2016年第十八届中国国际高新技术成果交易会上,一台名为“小胖”的机器人在无人操控时,自行运动打破了参展现场的玻璃,并砸伤了路人。 图片源自网络 如果有人说,这些机器人伤人只是一个小意外,小心点就没事,那可以看看下面的。 在日内瓦举办的联合国武器公约会议上,曝光了人类史上一个恐怖武器——杀手机器人! 本体其实是马蜂大小的无人机,但“麻雀虽小五脏俱全”,拥有广角摄像头、传感器、面部识别、处理速度是人脑100倍的新型人工智能处理器,可以毫无压力地躲避人类的各种追踪。 还能穿透建筑物、汽车、火车,躲避人类子弹,应对几乎所有防御手段。 图片源自网络 只要把目标图像信息输入它身上,它就能精准找到攻击目标,戴口罩、伪装统统没用,它的识别率高达99.99! 在锁定目标之后,它会直冲向人类的大脑,暗藏的3克浓缩炸药能瞬间摧毁整个大脑。 而且,这种“杀人蜂”般的“武器”,可是成群出动的,如果一个不小心……那后果…… 图片源自网络 当然,说了那么多,人工智能的发展是不可逆的,就像发展会破坏环境,可就算重来一次,大多数国家还是会选择“先发展在治理”的路子。 所以我们要做的,就如霍金所说,“需要确保计算机与我们的目标相一致”,“我们的未来取决于技术不断增强的力量和我们使用技术的智慧之间的赛跑。”原创/未上色
|
|