【原】我们如何不给自己掘墓

《超级智能：路线图、危险性与应对策略》(Superintelligence: paths, dangers, strategies)，（英）尼克 波斯特洛姆(Nick Bostrom)著，张体伟、张玉青译，中信出版社2015年2月版，332页。

这本书是最近看的第二本有关人工智能发展危险性的书（第一本是《我们最后的发明》，前面有介绍，这两本书都是Elon Mush马斯克的推荐书籍），原著出版于2014年，作者出生于1973年，虽然很年轻，但自幼好学多思，才华横溢，创建了牛津大学人类未来研究院并任院长，写了近200本书，著作被翻译成20多种语言，还得过一些大奖，是当代著名思想家。

这兄弟看起来就是比较高智商

这本书要比《我们最后的发明》深刻很多，相比之下，它不仅仅讲人工智能（书中叫“超级智能”）可能给人类带来灭绝的风险，还全面介绍了超级智能发展加速、实现超级智能的几种技术手段（人工智能只是其中之一，其他的技术包括全脑仿真、生物技术、人机交互）、机器智能会以何种优势强于人脑、超级智能爆发的动力演变、一旦超级智能爆发我们人类有没有任何还手之力等等。最为难能可贵的是书里不光提风险，而且也思考了在超级智能研发过程中我们如何防控超级智能毁灭人类，手段包括监控，激励，阻断，驯化，国与国如何合作，以及如何给智能输入对人类友好的价值观等等。最后的部分极为抽象并要求较高的想象力，阅读起来是一种智力考验，任何一个小地方都可以展开写一部科幻小说。