|
人工智能一旦脱离束缚，就会以不断加速的状态重新设计自身。人类由于受到漫长的生物进化的限制，无法与之竞争，将被取代，这将给我们的经济带来极大的破坏。 ——霍金 近日，在日内瓦举办的联合国特定常规武器公约会议上公布的一段可怕的视频引起了强烈反响：视频中，一群神似《黑镜III》中机器杀人蜂的小型机器人，通过人脸识别（面部识别）技术和定位瞬间杀死了正在上课的一众学生，场面血腥。 先来感受下视频里几个可怕的画面： 一个体型类似蜜蜂的小型机器人飞入会场寻找目标, 并轻易躲过演讲人抓捕，因其拥有 anti-sniper（反狙击） 技术，该技术完全基于 AI。 同时，这个小东西拥有更可怕的黑科技：广角摄像头、传感器、人脸识别（面部识别），且在其中部，还有3克炸药。 来看看它的攻击效果：一击而中，极端致命！ 看到这个武器，让人联想到《三体》里描述的一种终极形态的武器——“水滴”，它与普通水滴形状相似，由被强互作用力紧密锁死的质子与中子构成，密度巨大，无坚不摧，仅一个水滴就能接连摧毁人类的一千多艘飞船，打击方式也是直接、精准穿透关键部位。 视频最后还演示了一段飞行机器人集体攻击人类的画面，通过人脸识别（面部识别）定位，轻易杀死了正在上课的一班学生。  这种致命性自主武器系统实际上是一种军用机器人，它可以不经过人类干预，自主选择和攻击包括人员和装备在内的军事目标，所以也被叫做“杀手机器人”。 目前，拥有“人格”的智能技术尚未被从科幻电影搬到现实中，但是与此有关的技术的确正在朝着这个方向发展。例如英国航空航天系统公司（BAE）等开发的Taranis“无人作战飞机”（UAV, Unmanned Aerial Vehicle ），三星制造的 SGR-A1 哨戒炮,已经部署在韩国国界。无人坦克也正在研发中，而人类对致命性无人机的控制只是何种程度的问题。 国内专注于人脸识别（面部识别）技术的高科技公司——深醒科技的CTO袁培江表示：随着近年来深度学习等人工智能技术的飞速发展，目标检测、人脸识别、自主决策等许多任务已经取得了长足的进步。在一些特定场景的特定任务上，机器的能力已经达到甚至超过了人类。这些先进的人工智能技术与微电子、机械等技术相结合，类似于视频中的机器杀人蜂的自主武器即将成为现实。单从纯粹的技术角度来看，这是军事技术上的一种进步。它实现了对目标的精准打击，从而避免了大量无辜人员的伤亡。 但是，袁培江也表示了与视频中伯克利大学教授、资深AI研究者Stuart Russell同样的担忧：其潜力非常大，可以为国防作出很大贡献。但赋予人工智能自行选择杀人的能力，对我们自身的安全和自由是毁灭性的。我们能阻止你在短片中看到的未来，但是留给我们的时间不多了。 （视频时长：7分48秒）
|
|
|
