|
编者按：Elon Musk以其未来主义的赌博著称，但是硅谷争先恐后对人工智能敞开怀抱把他给吓到了。而且他认为你也应该对此感到害怕。《名利场》的一篇长文揭秘了他试图影响飞速发展的AI 及其支持者，以及拯救人类于机器学习大魔头统治之下的努力。更重要的是，这篇启示录式的文章塑造了一个千面的钢铁侠形象：Elon Musk究竟是先知、人类拯救者还是堂吉诃德、勒德分子或者精明商人呢？只有时间才能告诉我们答案。鉴于篇幅太长，全文分3部分刊出，此为第3部分。 面对人工智能天启，马斯克发动了十字军东征（上）|全球聚焦 面对人工智能天启，马斯克发动了十字军东征（中）|全球聚焦 V、人机融合迫在眉睫 为了弄清楚AI的看法谁才是对的，我驱车前往圣马特奥拜见了Ray Kurzweil，约他到Three餐厅喝咖啡。Kurzweil是《奇点临近》的作者，对AI的未来抱有乌托邦式的愿景。（当我跟吴恩达提到我要去找Kurzweil时，他的眼珠一转，说：“我每次读Kurzweil的《奇点》时，我的眼睛就会不由自主地这么转。”）Kurzweil带了一个全食超市包装袋给我，里面塞满了他的书和两部有关他的纪录片。他身穿卡其裤，一件红绿相间的格子衬衫，还戴了几个戒指，其中一个还是3D打印的，上面印有一个“S”，代表着他的奇点大学。 计算机已经“承担了许多思考的属性，” Kurzweil告诉我说：“仅仅几年前，AI甚至还不能分辨猫和狗。但现在可以了。” Kurzweil对猫有着强烈的兴趣，在他位于北加州的家中收藏着300尊猫的雕像。在饭馆时，他点了杏仁乳但那里没有。这位69岁的老人吃奇怪的健康调制品，他每天要吞90颗药丸，因为渴望长生不老（或者“我们心智档案存在的无限延伸”），这意味着要与机器融合。他对此是如此的迫不及待，以至于有时候在讨论超智未来体时他会用“我们”这个词——这与Musk更加不祥的“它们”完全不同。 我提到Musk告诉我说，他对Kurzweil对我们的“意念之子（mind children，机器人专家Hans Moravec的书）”的危害“哪怕1%的怀疑”都没有而感到困惑。 Kurzweil说：“不是这样的。我明确表达过其中的危险。希望与危险是紧紧缠绕在一起的。火给我们温暖煮好我们的食物但也会烧毁我们的防止……此外，控制危险是有策略的，就像生物技术有指导方针一样。”他把人类对新技术的反应概括为三个阶段：哇！（惊叹！）阶段，噢喔！（糟了！）阶段以及除了前进还有什么选择阶段。他说：“人类比计算机做得更好的事情清单正变得越来越短。但我们创造这些工具来拓展我们的影响。” 就像200万年前，哺乳动物形成了最终促进人类“发明语言、科学、艺术和技术”的新皮质一样，Kurzweil预测，到2030年，我们将成为赛博格（电子人），血细胞大小的纳米机器人会将我们与云端的合成新皮质相连，让我们能在自己的神经系统之内接触到虚拟现实和增强现实。他说：“我们会更有乐趣，乐感更强，我们会提高自己的智慧。”按我的理解，这最终将产生一大批贝多芬和爱因斯坦。我们静脉和动脉里面的纳米机器人将会治愈我们的疾病让我们的身体痊愈。 他承认Musk的恐惧可能会变成现实，指出我们的AI后代“可能是友好的，也可能不友好”而“如果它不友好，我们也许得跟它搏斗。”而搏斗的唯一方式也许是“争取一个还要聪明的AI站在我们这边。” Kurzweil告诉我说，他对Stuart Russell“站上了看衰的一方”感到惊讶。于是我联系上Russell跟他在伯克利的7楼办公室见了面。这位54岁的英裔美国人、AI专家告诉我说他的思想已经发生了演变，现在他对Kurzweil 等人觉得把地球割让给超智AI也没关系的想法表示“强烈”反对。 Russell对AI可能会促进更多爱因斯坦和贝多芬出现的想法不屑一顾。多一个路德维希并不能平衡人类毁灭的风险。他愤怒地说：“好像智能才重要而人类体验的质量就不重要一样。我认为如果我们用机器来替代自己的话，无论它们发明的东西有多出色，意识将不复存在，我认为这将是最大的悲剧。” Nick Bostrom把人类缺席的技术出色的社会称为是“没有孩子的迪斯尼乐园。” Russell说：“有人认为如果机器比我们更聪明的话，它们就会占有地球而我们就该走人了。而另外一些人则说，‘好吧，我们已经把自己上传到机器了，所以我们还有意识但我们将成为机器。’这种说法我觉得完全不可信。” Russell 对Yann LeCun的观点表示反对。后者开发了AlphaGo使用的卷积神经网络的前身，现在是Facebook AI研究实验室的总监。LeCun告诉BBC说《机械姬》和《终结者》这样的情形不会出现，因为机器人不会有饥饿、权力、繁殖以及自卫本能等人类需要。Russell说：“Yann LeCun一直说机器没有理由要产生自卫本能。这根本就是错误的。我的意思是说，机器有自卫本能实在是太明显了，哪怕你没有把这种本能编进去，如果你说‘给我拿杯咖啡，’如果它死了的话它也办不到。所以如果你给你设定了任何目标，它就有理由为了实现这一目标而维持自己的存在。如果你妨碍它拿咖啡，它会杀了你因为任何对咖啡的风险都必须算计在内。有人已经用非常浅显的语言向LeCun进行了解释。” Russell还拆分了两个认为我们无需担心的最常见观点：“一个是：这永远也不会发生，这就好像是在说我们正在开车冲向悬崖但还没到车就已经没油了。这看起来不显示管理人类事务的好办法。另一个是：别担心——我们会开发跟我们合作的机器人，我们会成为一个团队的。这会引发这个问题：如果你的机器人不同意你的目标的话，你怎么跟它组队？” 微软曾经做过一个AI聊天机器人Tay，并把“她”放到Twitter上“想让她通过跟用户闲聊和开开玩笑”而变得更聪明——结果用户却教她如何用种族主义、歧视女性以及反犹太的语言来回应。Tay在推特中写道：“911是布什干的，希特勒都比比我们现在的那只猴子干得好。特朗普是我们唯一的希望。”作为回应，Musk发推说：“看看这些机器人变成希特勒的平均时间是多少会很有趣。微软的Tay只用了一天。”去年微软不得不把Tay关闭了。 特朗普当选总统后，Musk发现自己在走钢丝。不管美国政府是奥里利乌斯还是卡利古拉的，他的公司要指望这个政府为商业和补贴通过支持。反对特朗普针对移民和难民的行政命令的意见陈述Musk的公司也加入了，Musk本人也在推特上表达了反对意见。与此同时，Musk又不像Uber的Travis Kalanick那样，他本人仍然留在特朗普的战略与政策论坛里面。Ashlee Vance说：“这很Elon。他会做自己的事情而不管别人怎么抱怨。”他还补充说Musk在必要的时候会采取“机会主义”。 我问Musk对因为跟特朗普扯到一起而受到的抨击怎么看。在一众技术高管跟特朗普的合照里面，Musk看起来一脸沮丧，在谈到这一话题的时候他的嗓音也有种不耐烦。他说，到最后，“有点温和派人士跟总统接触会更好。有很多人，那些极左分子想采取孤立的做法，不去争取任何发言权。这非常不明智。” VI、重要的是旅程 37岁的Eliezer Yudkowsky是一位非常受尊重的研究学者，他试图找出在实践上而不仅仅是理论上是否有可能让AI朝任何方向发展，这当然包括好的方向。我跟他在伯克利的一家日本餐厅见了面。 他在点了一份海鲜牛排套餐后问道：“你怎么来开发AI的目标功能呢？如何才能让它有个切断开关，然后它也希望有个切断开关，并且它不会尝试去干掉这个切断开关，也愿意让你按下那个切断开关，但是又不会提前自己按下那个切断开关呢？如果它可以自行修改的话，它会保留那个开关吗？我们试图做出这个。这并不容易。” 我唠叨起克拉图、HAL以及奥创的继承人接管互联网控制我们的银行、交通和军队。如果《银翼杀手》里面的再生人密谋杀死它们的创造者该怎么办？Yudkowsky双手托住自己的脑袋，然后耐心地解释道：“AI不需要接管互联网。也不需要无人机。它的危险不在于它有枪，而在于它比我们聪明。假设它可以搞定通过DNA信息预测蛋白质结构的科技的话，只需要给合成蛋白质的实验室发几封邮件就行了。很快它就会有自己的分子机器。然后开发出甚至更加复杂的分子机器。” “如果你要想象AI出问题的景象，别想着红眼人形机器人在行军。你得想象小到看不见的由钻石组成的合成细菌，内置着微型计算机，隐藏到你和所有人的血流里面。然后一起释放一微克的肉毒杆菌毒素。所有人马上倒地身亡。” “只不过实际上这种情况不会发生。对我来说准确预测我们会怎么输掉是不可能的，因为AI会比我聪明。当你开发出比自己聪明的东西时，你的第一次尝试就得做对了。” 我回想起了跟Musk和Altman的交谈。Musk说，不要被杀手机器人的想法转移话题，他指出“AI的关键不在于机器人，而在于Net的计算机算法。所以机器人只是末端执行器，只是一系列的传感器和致动器。AI在Net里面……重要的是如果我们有某种逃离算法的话，那么人类AI一起就能阻止这种逃离算法。但如果这是由大型集中化的AI来决定的话，那就没法阻止了。” Altman继续对这种情形进行详细解释：“对互联网拥有完全控制的代理对世界所产生的影响远超过对负责机器人拥有完全控制的那些。我们的生活已经如此依赖于互联网，以至于一个没有躯壳但很会利用互联网的代理会变得非常强大。” 即便执行看似温和任务的机器人也会漠然地伤害我们。Musk说：“比方说你造了一个会自我改进的AI去摘草莓，这门手艺它开始玩得越来越溜，然后摘得越来越多，它不断地改进自己，一心只想着摘草莓。所以它会想着把全世界都变成草莓园。永远都是草莓园。”人类也就没了立足之地了。 但它们真的能开发出杀戮开关吗？Musk回答到：“我不敢肯定自己是不是想成为手握某些超级AI杀戮开关的人，因为你会成为它的第一个目标。” Altman试图捕捉紧要关头那种令人不寒而栗的恢宏：“现在活着是非常激动人心的时刻，因为未来几十年里我们要么走向自我毁灭，要么就是人类后代最终殖民宇宙。” Musk补充道：“对的。如果你相信宇宙将会以热寂告终的话，那重要的就只有这段旅程了。” 对人类灭绝如此担忧的这个人也被自己的玩笑给逗乐了（注：爱默生曾经说过，人生是一场旅行，而不是目的地。Musk的意思是反正目的地都是一样的了）。正如H. P. Lovecraft曾经写过那样：“哪怕是最恐怖的时候讽刺也很少缺席。” |
|
|
