“有一天，计算机将变得比我们更聪明。”
过去半年当中，OpenAI是最没有发言纪律的公司，他的几位创始人轮番在各个媒体平台发言，Sam Altman几乎接受了全部美国最重要的媒体的访谈，包括个人媒体，甚至包括中国的媒体和个人媒体。
下面是Ilya Sutskever在TED的一篇演讲，原文题目是The Exciting，Perilous Journey Toward AGI。
很能理解为什么TED为什么会在此时此刻释出这样一篇演讲，在他这篇演讲之前，OpenAI的前CEO和总裁Sam Altman和Greg Brockman已经先后在TED做过演讲，主题和Ilya是一样的，都是关于AI和AGI。
如今的公议，Ilya是促使OpenAI董事会赶走Altman和Brockman那个主导者。他的同事，以及他的同行似乎都把矛盾指向他。
几个小时前，Andrew Ng在社交网络上发贴，感谢OpenAI的工作之外，直言不讳地批评了某一小撮人，称他的愚蠢决定伤害了所有人。他特别艾特了Altman、Brockman和仍在OpenAI担任临时CEO的Murati。
在OpenAI创始人当中，只有Ilya没有被提到。
Ilya可能是通往AGI道路上最为关键的一个人，不是别人
但是，恰巧认真拜读过同事们所整理的Ilya最近几年的访谈纪要，从纯粹技术背景来看，Ilya也许是OpenAI团队当中最重要的那个人，至少在过去是的。
现在，至少应该了解一下，这位能够赶走公司CEO、总裁的人，究竟是如何看待未来的。他坚定地认为，“有一天，在我们计算机内部的数字大脑甚至比我们自己的生物大脑更好。计算机将变得比我们更聪明。”
Ilya本人觉得他也看到了一种力量，让人们摆脱对这种AGI时代的恐惧。以下为其演讲全文：
你们都见证了人工智能的进展，你们中的许多人可能曾与计算机交流，计算机能理解你们并回答。
随着技术的快速进展，不难想象，在未来某个时刻，我们的智能计算机将变得和人一样聪明，甚至更聪明。当这一切发生时，人工智能的影响将是真的，真的巨大。你可能会想，当技术如此重要时，一切是否都会安好？
我的目标是指出一种你们可能没有注意到的力量，这给了我希望，确实我们对结果会感到满意。
那么，人工智能是什么？它是如何工作的呢？事实证明，解释人工智能是非常容易的，只需要一句话。人工智能就是大型计算机内部的数字大脑，这就是人工智能。你们见过的所有AI兴趣都基于这个理念。几十年来，科学家和工程师一直在研究这些数字大脑应该如何工作，以及如何构建它们。
现在，我发现人类智慧的源泉是我们的生物大脑，这一点非常有趣。人工智能的智慧之所在是一颗人工大脑，这是非常贴切的。
在这里，我想稍微偏离一下话题，告诉你我是如何涉足人工智能的。
有三股力量吸引着我进入这个领域。第一是在我还是个五六岁的小孩时，我被自己的意识体验深深打动，我意识到我是我，我在经历着各种事物。这种感觉随着时间的推移逐渐消失，但现在简单地提起来，它又回来了。但这种我是我，你是你的感觉让我觉得非常奇怪，几乎让人感到不安。
当我了解到人工智能时，我想，哇，如果我们能构建一台智能的计算机，也许我们将能够了解关于我们自己、关于我们自己意识的一些东西。这是引领我走向人工智能的第一个动力。
第二个动力在某种程度上更为平凡。我只是对智慧的工作方式感到好奇。当我是90年代末的十几岁少年时，我感到科学似乎根本不知道智慧是如何工作的。
还有第三个原因，就是在那时对我来说很明显，如果人工智能奏效，它将具有令人难以置信的影响。
当然，并不明显是否能够在人工智能领域取得进展，但如果可能的话，它将产生令人难以置信的影响。因此，这三个原因让我投身于人工智能。这就是为什么我认为这是一个值得我花费所有精力的领域的原因。
现在，让我们回到我们的人工智能，今天的数字大脑。这些数字大脑远远没有我们的生物大脑聪明。当你与一个AI聊天机器人交谈时，你很快就会发现它并不完整，它大致上理解了，但你可以清楚地看到有很多事情它做不到，而且有一些奇怪的差距。
我声明，这种情况是暂时的。随着研究人员和工程师继续努力研究人工智能，有一天，生活在我们计算机内部的数字大脑将变得和我们一样，甚至比我们自己的生物大脑更好。计算机将变得比我们更聪明。我们称之为AGI，即人工通用智能，当我们能够教授AI做任何我能做或其他人能做的事情的水平。
尽管AGI今天尚不存在，但我们仍然可以对其建成后的影响有一点了解。很明显，这样的AGI将对生活、人类活动和社会的各个方面产生巨大的影响。
我想进行一个快速的案例研究，这是一个非常广泛技术的狭窄示例。我要提出的例子是医疗保健。你们中的许多人可能曾经试图去看医生。
有时你需要等待很多个月，然后当你终于能够见到医生时，你只能和医生有很短的时间。而且，医生只是一个人，对所有存在的医学知识只能有限了解。然后，最后，你得支付一大笔账单。
如果你有一台智能计算机，一台被构建成医生的AGI，它将拥有对所有医学文献的全面而详尽的知识。它将拥有数十亿小时的临床经验，并且始终可用，而且价格极其便宜。
当这种情况发生时，我们将回顾今天的医疗保健，就像我们回顾16世纪的牙科一样，他们把人用带子捆住，然后进行治疗。今天的医疗保健将会是这个样子。再次强调，这只是一个例子。AGI将对人类活动的每一个领域产生巨大而令人难以置信的影响。
但是当你看到这么大的影响时，你可能会想，这项技术难道不是太具有影响力了吗？实际上，对于AGI的每一个积极应用，都将有一个负面应用。这项技术也将与我们习惯的技术不同，因为它将具有自我改进的能力。有可能构建一个能够研究下一代AGI的AGI。
我们曾经经历过这种快速技术进步的最接近的类似是工业革命。当时人类社会的物质状况是非常稳定的，然后迅速增长，迅速增长。
有了AGI，类似的情况可能会再次发生，但时间会更短。此外，还有一些担忧，如果AGI变得非常强大，这是可能的。也许它会变得不受控制，因为它是一个agent。
这是一种对这项前所未有、尚不存在的技术的担忧。确实，你看看AGI的所有积极潜力和所有令人担忧的可能性，你可能会说，天哪，这一切都将何去何从？
我在创建OpenAI时的一个动机是，除了开发这项技术之外，还要解决AGI提出的问题，解决困扰我们的难题，解决我们提出的担忧。除了与政府合作，帮助他们了解即将发生的事情并为其做好准备之外，我们还在进行大量研究，解决技术方面的问题，以确保AI永远不会变得不受控制。这也是我正在致力于的事情。
但我认为需要注意的是，AI和AGI实际上是经济中唯一一个引起很多兴奋、很多投资的领域。每个人都在致力于这项工作。世界上有大量的实验室试图构建相同的东西。即使OpenAI采取了我提到的这些可取的步骤，那么其他公司和其他国家呢？
这就是我想谈谈的力量的地方。我的观察是，考虑一下一年前的世界。仅仅一年前，人们根本没有像现在这样谈论人工智能。
发生了什么？我们都经历了与计算机交谈并被理解的感觉。计算机将变得真正聪明，最终比我们更聪明的想法正在变得普遍。以前，这只是一些狂热者、爱好者和对人工智能非常感兴趣的人们思考的一种边缘想法。
但现在，每个人都在思考这个问题。随着人工智能继续取得进展，随着技术的不断进步，随着更多人看到人工智能能做什么以及它将走向何方，那么人工智能将变得多么戏剧性、令人难以置信，几乎是梦幻般的事物就会变得很明显，适度的忧虑也是适当的。
我声称会发生的是，人们将开始出于自身利益采取前所未有的协作方式。这已经在眼下发生。你看到领先的AGI公司开始合作。以一个具体的例子来说，通过Frontiers模型论坛，我们期望竞争对手公司将分享技术信息以确保其AI的安全性。我们甚至可能看到政府这样做。
再举一个例子，在OpenAI，我们真的相信AGI将会有多么戏剧性。因此，我们运作的一个理念，并且已经在我们的网站上写了五年，是当技术变得非常接近AGI，即计算机比人类更聪明，如果有其他公司远远超过我们，那么我们将与他们合作，从某种意义上加入他们。
为什么这么做？因为我们感到，我们欣赏AGI将会有多么戏剧性。我的观点是，随着每一代能力的提升，随着AI变得更好，随着你们所有人体验到AI的能力，作为经营AI和AGI项目以及从事这些项目的人，你们将亲自体验到，这将改变我们看待AI和AGI的方式。而这将改变集体行为。
这是我对这项技术带来的巨大挑战抱有希望的一个重要原因。
