全文翻译自《连线》“Inside OpenAI, Elon Musk’s Wild Plan to Set Artificial Intelligence Free”一文。 政客和资本家有一个共同的“优良”传统，那就是坏消息通常都放在星期五的下午悄悄发布出去。去年12月，为期一周的蒙特利尔人工智能大会接近尾声时，电动汽车制造商特斯拉创始人伊隆·马斯克和知名科技孵化器Y Combinator总裁山姆·阿尔特曼宣布了他们新成立的人工智能（AI）项目，而时间也恰好是周五下午。在一周几近结束时才公开OpenAI，可以说是事出有因的。不是因为无人关注，而恰恰是因为太多人关注。硅谷最强大的几家公司事先已经听到一点风声，于是立刻行动起来，向OpenAI刚刚聚拢在一起的人工智能研究人员开出优厚的报酬，好把这些重要的人才拢在自己手里。这些在最后一刻开出的价码高得不可思议，以至于马斯克和阿尔特曼不得不推迟这个新项目的发布。“价码高得离谱，”沃伊切赫·萨伦巴（Wojciech Zaremba）如是说。他曾在谷歌和Facebook实习，当时正要加入OpenAI，也在最后一刻收到其他惊人高薪邀请。你问什么叫做“高得离谱”？两年前，也就是新一代机器学习技术市场开始升温时，微软公司的研究副总裁彼得·李（Peter Lee）就说，一个顶尖的人工智能研究员的身价，已经完胜美国职业橄榄球的顶级四分卫球员。这是什么概念？要知道这类球员的年薪动不动就高达八位数。而且照他说的，这还只是一般情况，要是硅谷最著名的两大企业家来挖你的AI“尖子生”，那就更不得了了。萨伦巴说，OpenAI正在组建的时候，有人向他开出报酬，价码是他市场身价的两三倍。OpenAI比不了其他公司那样财大气粗，但它能提供别的东西，那就是不用去管产品和季度盈利，只管尽情地做研究，纯粹着眼于未来。而最后的研究结果，不说全部，至少也有大部分都要分享出去，让大家各取所需。没错，马斯克和阿尔特曼这些人的目标，就是把这种可能是21世纪最具变革性的技术免费送人。萨伦巴说，虽然他非常钦佩谷歌和Facebook等公司，但恰恰是这些高得离谱的价码，让他望而怯步。他感觉，这些钱一方面是为了挖人，另一方面，也是企图把OpenAI扼杀在摇篮里。这让他更加亲近OpenAI的伟大使命。“我意识到，”萨伦巴说，“OpenAI才是最好的选择。”这就是整个故事最具讽刺意味的地方——世界上最大的几家科技公司极力挽留自己的研究人才，就像职业球队死抓着自己的顶梁柱不放，但研究人才却都有一颗爱分享的心。在高冷的AI研究界，最聪明的头脑追逐的不是（至少不完全是）叱咤风云的产品或是日进斗金。他们想做的是推动AI不断进步，如果大家都把最新发现藏着掖着，AI是无法前进的。OpenAI投资数十亿美元，是为了将AI推向极致。几天前，OpenAI发布了它的首批AI软件，用这个工具包，可以通过所谓的“强化学习”技术打造自己的人工智能系统。前不久因为战胜韩国国手李世石而一鸣惊人的谷歌围棋人工智能AlphaGo，其核心技术之一就是“强化学习”。而使用这个工具包，你可以搭建自己的系统，让它模拟出新一代机器人、教它玩电子游戏，当然，还有学会下围棋。但玩游戏仅仅是个开始。OpenAI投资数十亿美元可不是为了捣鼓出会玩游戏的机器人，而是为了将AI推向极致。通过这个项目的诞生以及它规划未来的过程，我们隐约可以窥见下一波创新浪潮的形成。OpenAI能否成为这场变革中的主角，我们要很久以后才能知道。但是，这家非同寻常的初创企业得以诞生，背后有着一股强大的推力，它告诉我们，新一代AI不仅会重塑技术，还会重塑技术的构建方式。硅谷其实并不反感吹牛皮。以怀疑的态度来审视夸大其词的宣传，这十有八九是没错的。但是，在人工智能领域，变革是真真正正地发生着。在谷歌和Facebook等公司，一种名为深度学习的技术正在帮助各种互联网服务产品识别照片中的人脸，识别用户的语音指令，响应互联网搜索词条。同样的技术也可以在未来驱动无数的应用。它可以帮助机器理解自然语言——原生态的人类话语和文本。它可以催生出新一代的机器人，不仅能执行设定的任务，还能边做边学。一些人认为，它最终能赋予机器一种近似于常识的东西——真正像人一样思考的能力。不过，美好的憧憬也带来了深深的忧虑。马斯克和阿尔特曼担心，既然能创造出做好事的AI，就也会有人捣鼓出做坏事的AI。担心机器人统治地球奴役人类的并不止他们两个，但也许有些反直觉的是，马斯克和阿尔特曼认为抵抗恶意AI的最佳方式，不是限制人工智能的普及，而是把它推而广之。新项目之所以能吸引一批带着理想主义的科技界青年才俊，这也是原因之一。去年夏天的一个夜晚，在硅谷风投圣地沙山路正中央的紫檀酒店，创建OpenAI的想法诞生于一个包间内。那里当时正在进行一场晚宴，出席者包括伊隆·马斯克和伊利亚·苏茨凯威尔（Ilya Sutskever）。苏茨凯威尔当时是在谷歌一个叫Brain的项目工作。这家公司下了很大力气来打造深度神经网络，那是强大的人工智能系统，能通过分析海量数据，掌握识别照片、撰写电子邮件、与人交谈等各种能力。苏茨凯威尔是这个项目的顶尖研究员之一，但一些更加宏大的设想正在包间内酝酿着。 这场餐会的召集者是山姆·阿尔特曼，他还邀请了好几位人工智能研究者，以及一位名叫格雷格·布罗克曼（Greg Brockman）的创业者。年纪轻轻的他有着丰富的创业经验，曾在红得发紫的数字支付初创企业Stripe担任首席科技馆。这群人才不拘一格，但都有一个共同的目标；建立新型的AI实验室，不但不受谷歌的控制，而且不受任何人控制。“我能想到的最有意义的事，”布罗克曼说，“就是让人类能够安全地逐步构建真正的AI。”马斯克也再三发出警告：有一天，这些系统可能强大到不靠人类就能学习，从而挣脱人类的控制。马斯克之所以到场，一方面是因为他与阿尔特曼是老朋友，另一方面也因为AI对他各项业务的未来、乃至全人类的未来都非常关键。特斯拉终将推出自动驾驶汽车，这其中就少不了要用上AI技术。马斯克的另一家公司SpaceX要把人送上太空，并保证他们能在太空中生存，这也需要AI。但马斯克也再三发出警告：有一天，这些系统可能强大到不靠人类就能学习，从而挣脱人类的控制。比较棘手的是，最有资格解决这些问题的人才，很多都已经被谷歌（还有Facebook、微软、百度和Twitter）收入麾下。晚宴上，大家谁也不能确定，这些AI研究人才会不会受到一家新初创企业的吸引，哪怕它的背后有马斯克和阿尔特曼撑腰。但有一个关键人物站了出来，他至少不排斥跳槽。“我觉得这样做有风险，”苏茨凯威尔说。“但尝试一下也蛮有趣的。”有马斯克、阿尔特曼和当晚其他人壮胆，布罗克曼很快就下定决心，将众人设想中的实验室建起来。他全身心投入这个项目，并联系上蒙特利尔大学计算机科学家、深度学习技术潮流的奠基人之一约书亚·本吉奥（Yoshua Bengio）。该领域的另两位先驱——杰夫·欣顿（Geoff Hinton）和扬·勒康（Yann LeCun）——现分别供职于谷歌和Facebook，但本吉奥一心投身学术界，基本不参与企业活动。本吉奥同意帮助布罗克曼，为他列了一份AI领域顶级研究人才的名单，之后的几周时间里，布罗克曼就照着这份名单，一个个地联系过去，同时拉拢名单外的其他人。格雷格·布罗克曼，OpenAI首席技术官及奠基人之一。
不少研究人员都很认同这个主意，但谁都不愿轻举妄动。为了打破坚冰，布罗克曼挑选了他最想争取的十名研究人员，在一个周末，邀请他们到美国红酒之乡纳帕谷（Napa Valley）的酒庄，在享受美酒、美食之间，给他们做思想工作。就连开车去纳帕谷的旅途，也被他利用起来开“动员大会”。“这段路很长，大家在路上总需要聊天吧，正是用来拉拢人心的好时机，”他说。一行人抵达葡萄酒之乡，但这种氛围并没有散去。“你可以切身体会到那种微妙的化学反应，”布罗克曼说。或者如苏茨凯威尔所说：“酒是次要的，谈话才是正题。”当这趟红酒之旅结束时，布罗克曼向这十位研究员发出了加入邀请，并给他们三周时间考虑。三个星期后，有九人选择加入。后来虽有硅谷巨头开出巨额报酬，但这些人也都不曾反悔。“谷歌挽留我的条件极为诱人，所以这不是一个轻松的决定，”苏茨凯威尔说。“但最后，我还是决定加入OpenAI，一定程度上是奔着这个天团级团队来的，但最主要还是看中它的使命。”
人工智能的深度学习运动兴起于学术圈，直到最近，谷歌、Facebook和微软等企业才开始挺进这一领域，因为基础计算能力的进步使深度神经网络成为现实，而不仅是一个理论上的可能性。欣顿和勒康等人离开学术界，投奔谷歌和Facebook，就是因为这些公司坐拥海量的资源。但他们仍有意向和其他思想家合作。事实上，正如勒康所说，深度学习领域的研究需要思想的自由流动。“闭门造车的结果，就是被甩到后面。”他说。因此，如今大公司都在把自己的AI研究大量共享出去。这个转变是确实存在的，尤其是谷歌，一直以来，它都对自己的核心技术严加保密，最近却开源了驱动其神经网络的软件引擎。在这场奔向未来的赛跑中，这家公司还是稳稳地守住了内道优势。布罗克曼、阿尔特曼和马斯克想要推动AI社群走向进一步的开放，称他们不希望人工智能的未来被一两家大公司所左右。听着都很不错。但在天花乱坠的理想主义之下，OpenAI的研究人员可能还是要做出妥协，这些妥协也许和他们之前工作中遇到的别无二致。开放也是设限的。而AI的长期愿景并非其中牵涉到的唯一利益。OpenAI不是慈善机构。马斯克的公司可以从这家初创企业的工作中获益，阿尔特曼的Y Combinator所支持的企业同样可以。“当然会有一些相互冲突的目标，”勒康说。“这是一家非营利机构，但又跟Y Combinator关系密切。它的薪酬也要向行业水平看齐。”据布罗克曼所说，实验室并不像谷歌和Facebook那样，给AI研究人员开出天价薪酬，但还是想给出“优厚的待遇”，并向研究人员提供股票期权作为报酬的一部分，先是Y Combinator的期权，未来可能还会给SpaceX的期权（它目前仍是一家私营公司，而不像特斯拉那样已经上市）。布罗克曼坚称，OpenAI不会给予姊妹公司以特殊优待。尽管如此，布罗克曼坚称，OpenAI不会给予姊妹公司特殊优待。他说，OpenAI是一家研究机构，不是咨询公司。但一再追问之下，他还是承认，OpenAI的理想化愿景也存在局限性。公司可能无法把全部成果悉数开源，但它的目标是最终把大部分的研究都共享出去。“敞开大门做研究未必是最好的做法。你要把一个想法开发出来，看结果如何，然后再行发布，”布罗克曼说。“我们会创造出大量开源代码。但也会有很多还没准备好公开的东西。”苏茨凯威尔和布罗克曼都补充说，OpenAI甚至会去申请一些专利。“短期内，我们不会申请任何专利，”布罗克曼说。“但不排除日后改变战术的可能性——如果我们认为这样做更有利于世界的话。”比如他说，OpenAI可能会申请预防性专利，一种防止专利被他人抢走的策略。可是在一些人看来，申请专利就意味着某种牟利动机。至少，这让OpenAI的开源理念少了几分说服力。“专利制度就是为牟利而生的，”艾伦人工智能研究所（Allen Institute for Artificial Intelligence）负责人奥伦·埃齐奥尼（Oren Etzioni）说，“我很想知道他们究竟要做什么。”按照马斯克和阿尔特曼当初的描述，OpenAI的成立是为了抵消恶意人工超级智能的威胁。这种超级智能当然也可能源自OpenAI所创造的技术，但他们坚持认为，如果任何人都能使用该技术，这种威胁就会减弱。“我们认为更可能出现的情况是，千千万万的AI会联合起来，共同阻挠那些偶尔出现的坏蛋。”阿尔特曼说。话说得很漂亮，但并不是所有业内人士都买账。牛津大学哲学家尼克·博斯特罗姆（Nick Bostrom）和马斯克一样，都就AI的危险性发出过警告。他指出，如果不加限制地把研究分享出去，还来不及确保它的安全性，它就被坏蛋拿走了。“若你手里有一个足以危害世界的按钮，”博斯特罗姆说，“那最好不要把它交给所有人。”另一方面，博斯特罗姆说，如果OpenAI为了防止技术落入坏人手中，决定将技术保密，那这跟谷歌或Facebook独掌AI又有何区别呢？如果不加限制地把研究分享出去，还来不及确保它的安全性，它就被坏蛋拿走了。博斯特罗姆确实认为，情况或许会因为OpenAI的非营利身份而有所改变，但只是可能而已，并不是一定会。这个项目真正强大的地方在于，它确实能对谷歌和Facebook等公司起到制衡作用。“它能够降低超级智能被垄断的风险，”他说。“有各种情况会导致一些实体或集团把持超强AI技术，OpenAI可以消除其中一种可能的情况。”但正如这位AI伦理研究大师在一篇新论文中所述，像OpenAI这样一家旨在免费分享工作成果的机构，其主要作用是加快人工智能的进步，至少短期内有加速作用。长期内能否做出贡献，要看它能否出于利他主义的考量，“摒弃最佳商业利益，选择更高一层的开放性”。“一家研发资助机构以公益为目的，通过追逐开放性，加速技术进步，这种情况也是有可能发生的。”他说。1月初，布罗克曼招募到的那九位人工智能研究员聚集在他的公寓开碰头会。这个项目实在是太新了，他们连白板都没准备好。（你能想像吗？）他们就在当天买来白板，立即开动大脑。布罗克曼说，OpenAI一开始将探索强化学习，这是一种机器学习方式，就是一遍又一遍地重复执行一项任务，追踪其中最有成效的方法。但OpenAI的另一个主要目标是“无监督学习”，让机器在没有人类指引的情况下，实现真正的自主学习。眼下，深度学习仍然依赖带标签的数据。比如，想要教神经网络识别出猫咪，那就需要给它提供大量带有猫咪的照片。机器的学习离不开加标签的人类，需要在他们的监督下进行。但和其他许多研究人员一样，OpenAI也要想开发出不靠标签就能学习的神经网络。“有了无监督学习的能力，机器就可以像人一样，只要到处浏览，就能从网上或书上学到各种知识。”布罗克曼说。在他眼中，OpenAI就是现代版的施乐帕洛阿尔托研究中心（Xerox PARC）。PARC的研究多为开放性质，且不受约束。从图形用户界面到激光打印机，再到面向对象编程（OOP），它们激发了一系列创新。而布罗克曼等人则想进一步化科幻为现实。PARC固然隶属于施乐公司，但它成就了其他无数企业，当中最著名的就是苹果。诸如史蒂夫·乔布斯（Steve Jobs）这类人都得益于PARC的研究。而在OpenAI，布罗克曼也希望所有人都能从它的研究中受益。为了尽可能推动这种活跃的氛围，近日，布罗克曼他们又挖来几位知名研究人员，其中包括伊恩·古德费洛（Ian Goodfellow），Google Brain团队的另一位前高级研究员。“PARC的特别之处在于，他们聚拢了一帮聪明人，让他们爱研究什么就研究什么，”布罗克曼说。“有一个共同愿景就行，不需要中央控制。”放弃控制权是开源理念的精髓所在。如果有足够多的人投身于一个共同目标，最终成果必然完胜任何人闭门造车的结果。但如果AI变得像我们预想中那样强大，那局面又会变得大不一样。我们秉持着平均主义的理想创造了AI，就也要确保新AI能坚守同样的理想。马斯克、阿尔特曼和布罗克曼寄希望于群众的智慧。但如果他们是对的，将来的群众可不完全是由人类组成的。翻译 / 雁行
陈霖 | 是什么让我们衰老？
田沁鑫 | 中国为什么出不了星球大战这样的超级IP？ 简里里 | 我们为什么觉得孤独 王健 | 以“我”为中心的世界
马家辉 | 我们生活在一个没有遗忘权利的时代
苑明理 | 用虚拟的星球，反省我们的世界观
|
