【原】微软CEO纳德拉提出的人工智能“十诫”

机器人革命即将来临，伊隆·马斯克（Elon Musk）和一些知名科学家都对人类前途忧心忡忡。

他们建议大家想清楚——

跟完胜人类智能的人工知觉共处意味着什么？

只为了聊天应用的一点点改进而创造出人工智能（AI），这样做真的值吗？

不久前，微软CEO萨蒂亚·纳德拉（Satya Nadella）围绕AI的未来，在网络杂志Slate发表长篇评论文章，列出了六条AI守则，外加人类在构建AI系统时必须谨记的四件事。

下文简要概括了纳德拉为未来世界制定的AI及人类行为守则，我们不妨称之为“十诫”：

1、“AI设计必须以协助人类为目的”

纳德拉的评论文章提及了科幻小说作家艾萨克·阿西莫夫（Isaac Asimov）广受引用的“机器人三定律”，概括起来就是机器人不得伤害人类。纳德拉在此基础上更进一步，他表示，机器人程序应具备主动帮助人类这一设定。他写道，它们应该是“协作型机器人”。

2、“AI技术必须透明”

人类必须了解AI。纳德拉提出，“这种技术会了解人类，但人类也必须了解这些机器。”

3、“AI必须在不破坏人类尊严的前提下，最大限度地提高效率。”

技术与AI应促进多样性，增进人类之间的相互联系，而不是让人们日渐疏离——很遗憾，这恰恰是人类历来都很擅长的事情。

4、“AI设计必须囊括智能隐私保护——它要能以值得信任的方式，严密地保护个人与集体信息。”

换言之，AI不应暴露我们的隐私。

5、“AI必须实行算法问责制，这样一旦产生意料之外的危害，人类尚可予以撤销。”

即AI需要一个紧急制动开关，以免发生程序员意料之外的恶意事件。

6、“AI必须警惕偏见，确保其研究恰当而有代表性，不至于采纳错误启发而形成偏见。”

AI应代表所有人而非特定群体的意志。

7、用同理心对待AI

纳德拉还为人类规定了“四必须”，以及我们应传承给未来AI设计师的技能，第一条就是同理心。纳德拉说，要创造真正了解人类的机器人，首先要确保人类能了解彼此的“思想与感情”。

8、投资于教育

我们要发展并资助培训模式，从而享受到AI可能为人类带来的好处。纳德拉指出，“电力织机发明于1810年，但一直过了35年才给服装产业带来变革，只因当时没有足够多的熟练技工可满足需求。”

9、继续发扬创造性

人类需要持续不断地从事于创造活动，这才是人类的独特之处，但机器将能“增强”我们的创意成果——眼下，很多人工智能研究人员都在于致力于这方面的研究。

10、保留裁决权，坚持问责制

“我们也许会接纳计算机生成的医疗诊断或法律裁决，”纳德拉写道，“但我们仍然期望，为后果承担最终责任的仍然是人类。”

翻译：雁行

来源：QUARTZ