|
译者： 小北xb
发表时间：2015-05-14 人工智能对人类的存在构成威胁吗？包括伊隆·马斯克、斯蒂芬·霍金、比尔·盖茨、山姆·奥特曼和牛津大学教授尼克·伯斯特罗姆在内的绝顶聪明之辈纷纷给出肯定的答案，尤其是伯斯特罗姆。伯斯特罗姆讲述机器人起义的著作《超级智能》被马斯克点赞。作为科技业的一位领导者，马斯克本应是一个非常理性的人，但对于人工智能技术，马斯克的反应似乎有些过度。他认为机器人背叛人类并非科学幻想，而是一个现实存在的威胁。在2014年10月于麻省理工学院发表演讲时，马斯克表示：“我们正在召唤恶魔。”
在2002年的一篇文章中，伯斯特罗姆这样定义人工智能的威胁：“消灭地球上的智能生命或者永久性遏制其潜能。”在他看来，出现这些可怕结果的可能性虽然很低，但潜在的代价巨大，因此非常有必要采取措施消除这种威胁。伯斯特罗姆认为导致这种灾难的原因可能是有意的，也可能是无意的，很多研究领域都有可能扮演灾难制造者的角色，其中包括生物科技、纳米技术以及人工智能。
科技大佬伊隆·马斯克，认为研究人工智能是在“召唤恶魔” 现在，人工智能或者说机器智能正快速提高，很多知名科技公司都在大力研究深度学习。在德国之翼9525号航班坠毁以及类似悲剧发生之后，很多人意识到人工智能更有可能保护我们，让我们不会成为人为错误操作的牺牲品，而不是对全人类的存在构成威胁。 在对人工智能造成的恐惧心理进行研究之后，我得出了一个结论。这种恐惧源自于一种担心，担心人工智能的研究和使用缺乏必要的监管，进而导致意外后果。马斯克将人工智能视为人类存在的最大威胁，建议在国家和国际层面上对其进行监管。他说：“我们一定要确保一点，那就是决不能做非常愚蠢的事情。” 对于一些科技大佬们的恐惧，人工智能先驱、已对人工智能进行30年研究的杰夫·霍金斯以一篇名为“终结者不会到来，未来会感谢我们”的文章进行反驳。他指出自我复制和自我意识并非由智能产生，人工智能也必须遵守物理学定律。研制智能机器并不意味着这些机器将拥有自我意识、感情或者自我复制的能力。 有感情的机器可能在将来的某一天成为现实，如何遏制、约束或者激励这些机器是伯斯特罗姆在《超级智能》中表达的最为担心的问题。霍金斯指出研制拥有自体感的机器与研制智能机器是两个截然不同的问题。如果智能机器产生提高自身能力的动机，伯斯特罗姆担心的事情才会发生。
未来的智能机器人 在2014年都柏林举行的网络峰会上接受采访时，PayPal联合创始人彼得·泰尔从政治角度阐述超级智能问题，将其比作登陆地球的外星人。他说：“如果外星人明天登陆这颗星球，我们首先要问的问题并非他们的到来对经济意味着什么，而是政治层面的问题。他们是否友好？是否心存恶意？我觉得与人工智能有关的政治问题非常重要。我认为我们对人工智能的直觉认识非常落后。” 对于科技大佬们的担忧以及最近在西南偏南音乐节上爆发的反机器人抗议，泰尔将原因归咎于公众对这项技术普遍存在的恐惧心理和误解。他说：“我有一个与大众想法相反的观点，我们并不真正生活在一个科技的时代。科技业的一些从业者是当今社会的反正统文化群体。好莱坞的科幻影片经常描写科技恶的一面，屠杀人类，反乌托邦，摧毁世界。”
科幻大片《机械公敌》中的智能机器人 人工智能与合成生物学有很多相似之处，二者都拥有极大的潜力，能够给人类带来巨大福音。此外，它们都让流行文化陷入歇斯底里。对于人工智能与合成生物学，我最担心的是可能滥用这些技术的心怀叵测者的动机，而不是这些技术本身为恶的能力。 我们应该牢记一点，无论是自然还是人造事物都遵循物理学定律，记住这一点有助于我们缓解对科技的无理性恐惧。正如阿德里安·贝扬在其著作《自然中的设计》指出的那样，自然和科技世界都是流系统，随着时间的推移进化，提高在系统中穿过的事物的流动性。电子、人口和货币都遵循相同的准则。 在我看来，当前针对人工智能的争论实际上就是数学与科学的一场较量。在当前的深度学习运动中，现任Facebook人工智能部门主管雅恩·乐昆是最为重要的人物之一。对于当前的人工智能，乐昆表示：“还有一些很基本的东西我们没有搞清楚。在前进的道路上，我们会遭遇很多技术障碍。深度学习技术让我们看到了希望。我们一直不断进步。我们不知道下一堵墙在哪。我们继续取得进步的机会很大。我们并不知道极限在哪。”
《终结者3:机器的崛起》 如果人工智能的本质就是对外部数据流的预测和做出反应，我们又当如何监管？答案并非人工智能本身，而是何人输入数据。这是一种正确的做法，但对于科技公司来说却也是一个痛点，虽然这是一种可以理解的痛。科技公司经常抱怨称监管束缚了他们的创新能力。 我不认为马斯克或者其他科技大佬因可能构成的威胁反对人工智能是一种不负责任的做法，但这种态度转移了公众的注意力。我认为缓解公众对新技术恐惧心理的最佳方式就是让公众意识到“我们能够成为新技术的受益者”。煽动对人工智能的恐惧情绪所能产生的一个非故意副作用就是政府可能迫于公众压力制定监管政策，但这种做法往往适得其反。 |
|
|
