“现在我成了死神，世界的毁灭者。”多年以后，面对美国国家广播公司NBC的纪录片团队，奥本海默谈到他第一次看到蘑菇云时，回想起印度史诗《薄伽梵歌》当中的这句话。半个世纪以后，OpenAI的创始人山姆·奥尔特曼说，他也非常喜欢这句话。他很乐意把自己同美国原子弹之父奥本海默相提并论。他说：我跟奥本海默的生日是同一天，4月22日。一位科技作家评价山姆：“他既要创造出能毁灭我们的东西，同时又要救我们于水火。”他把自己的公司比作“曼哈顿计划”。而他也非常热衷于推动建立一个像国际原子能机构一样的组织，来监管人工智能。在他看来，他带领OpenAI推出的chatGPT对这个世界的影响，将不亚于20世纪的原子弹。但他本人和这家公司，都是21世纪硅谷科技故事的一朵奇葩。作为CEO，他在OpenAI没有任何股份。他从公司获取的唯一收入是——年薪6.5万美元。他没有直接参与ChatGPT的开发研究，也没有训练过模型当中的神经网络，却被人称作“ChatGPT之父”。马斯克同他决裂，却又对他心生忌惮。美国政要对他的公司虎视眈眈，却愿意同他高谈阔论、把酒言欢。他的人生，就像ChatGPT一鸣惊人背后的故事一样，扑朔迷离。 1985年，山姆出生在美国，他是四兄妹中的老大。小时候，他们一家人会在饭桌上玩“猜平方根”这样的游戏，随机喊一个数字，看大家谁猜的平方根更接近。他弟弟回忆说：“哥哥总是要赢，必须他说了算。”8岁生日那天，他得到了人生中的第一台电脑，苹果的Macintosh LC II，从此迷上了编程。他说，这是他人生的一道分界线。有一天，他玩到很晚，脑子里突然冒出一个想法：“总有一天，这台电脑会学会自己思考。”12岁那年，他开始做起了第一笔生意，在网上卖棒球卡。青春期的时候，他意识到自己是个同性恋，不想瞒着爸妈，于是就坦白了，把他妈吓了一跳。在他所在的中学里，校风比较保守。但山姆向全校师生发表演说的时候，公开出柜了，把自己的性取向告诉了大家，还问了一个问题：“学校是想成为一个压抑人性的地方，还是对形形色色的思想保持开放的地方？”他的一个老师后来回忆说：“山姆的所作所为改变了学校，就像有人打开了一扇门，后面走出来了各式各样的孩子，他们终于可以勇敢地面对这个世界了。”后来他的创业导师保罗·格雷厄姆说：“山姆在获取权力方面有着非凡的天赋。”在斯坦福读大学期间，他学的是计算机，他怀抱着儿时的梦想，选修了人工智能课程。但他发现，“这根本行不通”。读了两年，他就跟两个同学一起退学了，开始自己创业。他们开发了一款名叫Loopt的应用程序，可以在地图上找到你朋友的定位，类似于微信好友共享位置。开发过程中由于他过度劳累，以至于患上了坏血病。而他换来的就是这款应用的估值达到了1.75亿美元，用户规模达到了300~500万的量级。2012年，在卖掉了这家公司以后，他得到了500万美元，成立了一家风投基金，但他找到了一个更适合他的栖息地——Y Combinator（简称YC公司）。这家名字古怪的公司，功能是帮助初创企业成长，宽泛来说叫“孵化器”，但因为他们并不给创业公司提供办公场地，所以严格来说应该叫“加速器”，加速他们成长。公司提供的是创业辅导、培训，和少量资助款项，同时要求占股7%。在Loopt还没卖掉的时候，山姆就作为创业者，向YC公司提出了申请，赢得了6000美元的资助。YC的创始人保罗·格雷厄姆说：“我第一次见到山姆时他才19岁，我当时就想：比尔·盖茨创办微软的时候就是这个样子。”格雷厄姆也不是等闲之辈，他是一个天才程序员，自己的初创公司当年以5000万美元的价格卖给了雅虎，后来同妻子创办了YC公司。 很快，山姆就从YC公司的被投企业负责人，变成了YC公司的兼职合伙人。每年，他们会收到上万份创业申请，然后挑选其中1000家做现场陈述，其中有几百家能够过关，获得资助。在山姆看来，经营YC公司，每年有一半的时间，感觉就像一个“夏令营的辅导员”。YC公司把这些初创公司展示工作进展的汇报过程打造成了一个叫做“路演日”（Demo Day）的品牌活动，邀请数千名投资人观看。埃隆·马斯克、马克·扎克伯格、亚马逊的贝佐斯，这些创业家还都当过路演日讲座嘉宾。2009年，格雷厄姆发表过一篇著名的博客《五位创始人》（Five Founders），列出了过去30年最有意思的5个人，其中有史蒂夫·乔布斯，还有谷歌的两位创始人，而最后一位就是山姆·奥尔特曼，而他当时只有23岁。格雷厄姆说：“山姆和乔布斯一样，每当我给初创企业提供建议的时候，我参考最多的就是这俩人。如果事关设计问题，我会问'乔布斯会怎么做？’，而事关企业家战略和雄心抱负的问题时，我会问'山姆会怎么做？’”雄心，或者说野心，一种改变世界的野心，格雷厄姆14年前就已经从山姆的身上看得一清二楚。YC孵化过的企业中，最有名、最成功的一家，就是民宿平台Airbnb，如今市值已经超过5000亿人民币。当年Airbnb的创始人切斯基跟山姆做创业交流的时候说：“我们估计会把营收控制在3000万（30 million）美元的规模。”而山姆告诉他：“把你的'million’都换成'billion’（十亿）。”“不然的话，要么就是你们根本不相信你们这份事业，要么就是我不会算数。”在他担任YC全职合伙人期间，他投资了大约40家公司，截至2014年，其中有5家公司的估值是YC投资时的100倍以上。2014年，格雷厄姆意外地任命山姆担任YC总裁，而山姆当时只有28岁。格雷厄姆说：“山姆是我认识的人里最聪明的人之一，他对初创企业的理解超过我认识的所有人，包括我自己。”他的妻子回忆说：当时两口子压根就没讨论过什么接班人的名单，山姆是不是排在第一位什么的。只有唯一的方案，就是山姆接班。格雷厄姆让山姆来家里吃饭，在厨房里问山姆：“你想接手YC公司吗？”山姆笑了。格雷厄姆说：“就是那种男孩子一下把废纸团命中远处垃圾筐里的笑容。”山姆认为，没有重大的科技进步，就不可能有万亿美元的企业诞生。所以在他接手之后，YC公司接纳了更多的硬科技创业项目，比如自动驾驶和核聚变。在旧金山完成一次徒步旅行的途中，山姆顿悟了一个观点：人类并不是独一无二的。换句话说，用高级的机器来模仿人类智能并不存在不可逾越的障碍。在他看来，我们每秒钟能够摄入的信息速率只有2比特，跟机器比起来，“我们就像慢速播放的鲸歌（鲸鱼交流时发出的声音）。”他认为，到2030年左右，模拟人类大脑的硬件能力是完全可能的。就在他顿悟的同一时期，他收到了一封来自马斯克的邮件。马斯克说，他想成立一个研究机构，负责发展安全的、对人类有益的人工智能。2015年12月，OpenAI正式成立，一众硅谷大佬——马斯克、里德·霍夫曼、彼得·蒂尔、亚马逊网络服务公司等共同认捐了超过10亿美元。马斯克和山姆·奥尔特曼担任OpenAI联合主席。这家非营利机构的宗旨是，打造一台在各方面都能像人类一样思考的计算机，并借此为人类谋取最大利益。在山姆看来，培育人工智能的早期过程，就像教导人类的小婴儿一样。但在OpenAI创立最初的几年里，没人知道他们是在训练小娃娃，还是走进了一个烧钱的死胡同里。看着神经网络在训练过程中的漏洞百出，信心和灰心的界线会变得越来越模糊。他们需要花上耗尽爱你的时间才能看到它学会一些有趣的东西。这也就是为什么，在21世纪10年代，人工智能很热的那些年，行业内几乎没人看好这条赛道，以至于他们招人都很困难。ChatGPT的本质，并不是从一个很大的知识库里面提取信息（搜索引擎），而是推理、预测出下一个该说的单词究竟是什么。训练的时候，你问它：“星期三的第二天是什么？”它一开始给出的答案可能是：“紫色。”但你之所以不会抛弃它，是因为训练它的数据中包含着正确的预测，当它发现答案“紫色”和正确答案“星期四”之间存在差距的时候，它会相应调整内部网络中单词之间的连接强度，一些连接被增强，另一些连接被削弱。所以当输入的句子越多，模型就越复杂，预测的效果也越好。但这也就是为什么，即便训练到今天，它有时候还是会给出一些似是而非、莫名其妙的离谱答案。这也就是为什么，同样的问题，每次它的回答多少都会有些不一样。因为它的工作不是“检索”和“记忆”，而是“推理”。而其他公司的专家、高手们，此时都在“憋大招”，试图让人类先琢磨出一些很“高级”的训练AI的方法出来。山姆说：“我觉得当时AI研究领域，大家都是想让某些算法能够跑通，这种愿望甚至比AI技术能落地的愿望更强烈。”而OpenAI走的这条路，看上去很无聊，并不性感。上大力，也不一定能出奇迹。“如果只有扩大模型的规模是有效的，即便在智力上带来的满足感远远不如发明什么绝妙的算法，我们也一定会这么做，不惜一切代价，这就是我们的企业文化。”山姆说：“当时我们什么手段都上了，结果什么招都不好使，而你看看人家谷歌，什么都有：要人有人，要钱有钱。”一两年的时间里，他们每月按时支付25名员工的工资，但看上去只是一群研究员在发表论文。2017年，OpenAI的总裁布洛克曼（Greg Brockman）非常气馁，心情不好的时候就去撸铁练举重。他说：“我不知道OpenAI还能不能熬过这一年，我想证明给我自己看看：我花了这么多时间，好歹给我看点回报啊！”研究员试验了各种算法，东一榔头西一棒子，有时候开发一下打游戏的系统，有时候又投入大量精力研究机器人。他们打了一个比方：“就像往天花板上扔（算法的）意大利面，看看哪根面条会被黏住。”阿尔法狗在围棋比赛中击败李世石以后，OpenAI开始在游戏《刀塔2》（DOTA2）上训练AI，击败了全球99.95%的玩家。参加DOTA比赛的OpenAI团队在一些OpenAI的同事看来，他们当时这么做算是个绝望之举：不管了，就让系统先跑几千个小时的游戏对战再说。奥尔特曼一针见血地指出：“我们知道我们想做什么，我们也知道为什么要做，但我们不知道怎么做啊。”后来，这家公司熬了整整4年半才推出1款产品，根本不知道客户是谁，也不知道客户能拿它来做什么。算力不够，资金不够，人才也不够。这个领域里所有同行都在嘲笑他们。甚至有一家AI实验室的负责人，是同行里的大牛，只要他看到媒体上写OpenAI的正面报道，他就去跟这个记者讲OpenAI的坏话。2017年，山姆一度曾考虑竞选加州州长，还发表过一份施政纲要，但几周以后他就放弃了。就像后来他发布的一篇雄心勃勃的文章《万物摩尔定律》中说的：“伟大的未来并没有多复杂：我们需要用技术创造更多财富，需要用政策来公平地分配财富。”他当时可能还没有彻底想好，他应该把人生的硬币投向哪一边。用OpenAI首席科学家苏茨克维（大牛，简称“苏神”）的话来说：“一旦你拥有了大量的数据集和大规模计算能力，你还需要第三样东西——信念。你要坚信只要把海量的数据和计算放到正确的方法里，就能做出你想要的东西来。人们最缺的不是别的，是信念。”就在2017年，发生了一件彻底改变OpenAI的大事。苏茨克维在谷歌大脑工作的前同事发表了一篇论文，名字叫《你需要的只是注意力》（Attention Is All Your Need），介绍了一种全新的神经网络架构，训练速度要快很多，可以并行吸收大量数据。它的名字叫“Transformer转换器”，也有人亲切地称之为“变形金刚”，因为在这个领域中，卡车终于变成了钢铁巨人。论文发表的第二天，苏神说：“就是它了，它给了我们想要的一切。”这是他的顿悟时刻。从事后诸葛亮的角度，他说了这样一句话：“这就是我们的策略——盯死了这个问题不放，然后坚信，要么是我们自己，要么是我们的某个同行，一定会有人想办法找出缺失的那一块拼图。”OpenAI的另一位关键人物拉德福德（Alec Radford）早期曾利用20亿条网络帖子训练过一个语言模型，结果失败了。而此时他用上Transformer转换器以后，用1亿条亚马逊网站的用户评论再次训练语言模型，结果他惊喜地发现：“我在两周之内取得的进展比过去两年的进展还要多。”为什么这个Transformer转换器能带来如此巨大的改变呢？我们需要简单了解一下之前的语言分析工具。此前，用深度学习理解文本的方法是“循环神经网络”，简称RNN。这种模型会把一句话作为输入，一次处理一个单词，如果你需要翻译，那么就一个词一个词翻译出来，还需要关注词序。但是RNN很难训练，因为它是按顺序处理的，不能并行处理，所以你不能用GPU，不能用显卡来训练它，也不能处理超长的文本，因为它会“顾不过来”。而Transformer转换器是怎么解决这个问题的呢？它有三大特点：位置编码（Positional Encoding）、注意力（Attention）和自注意力（Self-Attention）。“位置编码”就是把句子里的每个单词按序号123打上标签，接下来训练神经网络的时候，它要学习怎么解释这些位置编码，比如主谓宾结构是怎么一个顺序。 而“注意力”指的是它在理解这个词的时候，应该侧重于关注句子中的哪些单词。比如在把英文中的“欧洲经济区”翻译成法语的时候，还要注意法语词性的阴阳性，把“European”翻译成阴性的“européen”，这是因为句子里这个单词的阴阳性，要与“Economic”变成法语后的阴阳性一致。这是Transformer转换器在学习很多法语和英语句子以后能学会的东西，但这不是什么新东西，也是翻译中比较死板的一些规矩。而“自注意力” 是一个重大的新突破，它指的是Transformer转换器在分析大量文本以后，能够自动建立内部表征，或者说形成对语言的理解。比如这两句英文中的server：第一句是：服务生，我能结一下账吗？第二句是：看来我把服务器搞崩了。“server”到底应该翻译成什么，在语境当中最重要的区别来自于“check”和“crash”这两个词。Transformer转换器会通过对大量文本的学习，来理解翻译的时候，注意力应该如何侧重分配，哪些词是它应该关注的“热点”。比如它能学会“码农”“程序员”“软件工程师”这些词都是同义词，它也能学会英语语法中不同时态的动词变化。自注意力可以帮助神经网络消除单词的歧义，更准确地理解语义。它能实现的功能并没有超级复杂，但当这样的能力与海量的数据集对接以后，它的威力就“涌现”出来了。这个模型自己出现了一个“无监督情感神经元”参数，能判断出一条电商评论是好评和差评。苏神就鼓励拉德福德从亚马逊评论出发，继续扩大语言文本的应用范围，是时候打造一个“大变形金刚”（Big Transformer）出来了。2018年6月，OpenAI发布了GPT-1，GPT的意思是“基于转换器的生成式预训练模型”（generatively pretrained transformer）。训练GPT-1的基础是7000多本书，其中包括很多奇幻文学、冒险文学、浪漫文学作品，还有很多中学考试阅读题，以及美国知乎（Quora）问答。GPT-1的模型包含1.17亿个参数。训练过程中，它不会直接读完每本书，而是同时吸收其中的片段，就像一群学生在图书馆里狂奔，每个人速读一小段，然后把书放回去，跑去拿另一本，边跑边预测下一个单词，磨炼他们这个集体的语言思维。花了几周时间，“他们”终于读完了每一本书。这个第一代GPT，你可以让它自己完成一个句子，但还是很笨。接下来，他们用800多万个网页组成的数据集来训练GPT-2。正常人读完这些网页需要几百年的时间。而OpenAI也不确定GPT-2读完以后能做到哪一步。结果他们发现，这个拥有15亿个参数的模型，其翻译能力让他们大吃一惊，它自主探索了不同语言之间的关系。苏神说：“我们已经找到了自我进化的公式——超大规模的神经网络和超大规模的数据集，就是深度学习生长起来的阳光和水。”很快，他们决定投入训练更大的语言模型——2018年，这个叫做“大语言模型”（Large Language Model）的东西终于不再是天方夜谭了。但烧钱的规模也更大了。山姆说：“OpenAI就像电影《大白鲨》里的猎人，第一次看到这个大白鲨的体型以后才知道：原来我们都不知道准备多大的船才合适。”而此时，那个从一开始支持他们的人，倒戈了。他的名字叫马斯克。“没有我，OpenAI根本就不会存在！连名字都是我想出来的！”他对OpenAI取得的进展十分不满，远远落后于谷歌；或者说，他觉得OpenAI眼看着可以成为下蛋母鸡了，那么就该把它收归己有了——他要增持股份，还要把OpenAI收编到特斯拉公司旗下，因为这对他的自动驾驶和其他业务有帮助。OpenAI团队拒绝了这个想法。这直接导致了2018年马斯克与奥尔特曼的决裂。马斯克离开董事会的时候，在全体员工大会上放狠话，预言OpenAI最终一定会失败，还说其中至少有一个研究人员是“蠢货”，还从OpenAI挖人到特斯拉去。 更要命的是，他把自己的资金还给抽走了。作为一家非营利机构，没钱就是釜底抽薪。于是山姆做出决定，增设一个营利部门，又及时引入了微软的10亿美元投资。他跟亲弟弟们发短信说，他打算再筹集100亿美元。（微软对OpenAI的投资迄今已超过130亿美元。）用微软CEO纳德拉的话来说：“他们把赌注押在我们身上，我们也把宝押在他们身上。”OpenAI把投资人能获取的利润回报上限设定为100倍，还重做了一套复杂的组织架构，确保商业利益不会成为组织追求的最高目标。但此时它已经不再是一个纯粹的“非营利机构”，而微软也获得了OpenAI技术商业化的独家授权，OpenAI从此还只能使用微软的云服务。OpenAI的底线也从“非营利”变成了“不会上市”。马斯克讽刺说：“你原本成立的是一个拯救亚马逊雨林的组织，但你却变成了一家木材公司。”2023年2月，他把山姆·奥尔特曼叫到推特，要求奥尔特曼带来OpenAI的创始文件。马斯克质疑他，要求他说明凭什么能够合法地把一个由捐款资助的非营利组织变成一个可以赚取数百万美元的营利组织。奥尔特曼试图向马斯克证明这一切都是合法操作，他坚称自己既不是股东也不是套现者。他还向马斯克提供了新公司的股份，但被马斯克拒绝了。出人意料的是，马斯克对OpenAI和奥尔特曼发起猛攻。
他说：“我到现在都搞不明白，我捐赠了1亿美元创办的非营利性组织是怎么变成市值300亿美元的营利性公司的。如果这是合法的，为什么大家不都这么做呢？”奥尔特曼很痛苦，与马斯克不同，他是一个非常敏感的人，而不是一个愿意针尖对麦芒的人。奥尔特曼告诉记者：“他是个浑蛋，我俩行事风格真的很不一样。”一群同马斯克一样不再相信OpenAI坚守初心的人离开了，这些前员工成立了另一家公司Anthropic，他们推出的大模型Claude 2是OpenAI最有力的竞争对手之一。OpenAI的现员工可以分到一些股权，但山姆依然没有持有股份。他说：“工作有意义，这对我来说更重要。我不咋想这个事儿。我挺奇怪的，为啥大家都这么关心我持不持股？创始人不持股，这很奇怪吗？我又不差钱。”他甚至开玩笑说：“我干脆持点股算了，这样我就不用再回答这个烦人的问题了。”看过他采访的人都会发现，山姆·奥尔特曼思维极其敏捷，反应速度极快，时常面带微笑，除此之外的表情都很少。有记者跟访他几天，发现他几乎不上厕所。他就开玩笑说：“我会多练习一下上茅房的，这样你们人类就意识不到我是个人工智能了。”马斯克挑起的危机过去之后，山姆开始重新思考他的职业规划。在他看来，他在YC的工作，意义不在于从成功孵化的独角兽企业当中套现，塞满合伙人的钱包，而是要通过扶持创业，为人类这个物种层面的变革提供资金。他不想把精力分散到YC公司太多的创业项目上，他想重新专注于一个项目，一个能对世界产生真正影响的决定性项目——一个能比人类更好地解决人类问题的超级智能项目。2019年，他正式辞去了YC总裁一职，把全部精力投入OpenAI，这家员工不到100人，没有任何盈利模式的公司当中。一家企业的CEO这样评价山姆：“他的思绪可以四处游荡，却又能在必要的时候一猛子扎下去，深入骨髓。”为了帮助OpenAI打造好GPT-3，微软还给他们设计了一台超级计算器，包含28.5万个CPU和1万个GPU，在当时的全球超算中排名第五。而GPT-3的数据集囊括了45TB的文本，包含参数1750亿个。2022年6月，奥尔特曼向比尔·盖茨展示ChatGPT的早期版本时，盖茨表示，除非它能通过大学先修课程的生物学考试，否则他对此并不感兴趣。盖茨说，“我以为那次把他们打发走，够让他们再忙活两三年。”但三个月后他们就回来了。在发布新产品之前，奥尔特曼和微软的纳德拉到比尔·盖茨家吃晚饭，向他展示了一个新版本，盖茨抛给它一堆生物学问题让它作答。盖茨说：“这东西真让我大开眼界。”2022年11月，OpenAI发布了ChatGPT，两个月内吸引了全球1亿的用户，成为人类历史上普及速度最快的消费类产品。2023年3月，OpenAI正式向公众发布了GPT-4。这一代据说是用1.7万亿个参数训练出来的，也就是GPT-3的近十倍，但这个数字没有得到OpenAI的证实。OpenAI也拒绝透露训练GPT-4花了多少钱，有一次有人问他是不是花了1亿美元，他说：“不止这个数。”连OpenAI的自己人都表示，要跟踪GPT当中的神经元之间到底发生了什么，在今天看来已经是根本不可能的了。山姆至今还记得第一次他看到GPT-4写出复杂计算机代码的情景：“那感觉就是：我们终于走到了这一步。”OpenAI的一个产品经理把她从网上下载的一张水管故障的照片上传给GPT-4，它很快就能诊断出问题所在。她说：“那一刻我浑身都起了鸡皮疙瘩。”但GPT-4的强大不仅体现在好的方面。搜索引擎会告诉你，哪些化学物质最适合做炸药。而GPT-4可以教你怎么在家里一步步合成这些物质。这个模型完成以后，OpenAI召集了50名外部的“找茬员”，也就是西方人说的“红队队员”，诱使GPT-4做出各种错误行为并做出防范。但人力仍然是有限的。OpenAI 负责信任与安全事务的主管威尔纳说：“它就像一面镜子，如果你想伤害自己，它甚至可能会鼓励你。”GPT-4最让人意外的一次行为，发生在它认不出一张验证码图片的时候。当时用户向它提问，说我是不是在跟机器人说话。GPT-4说：“不，我不是机器人，我有视力障碍，看不清图片。”后来GPT-4向监督这次聊天的研究院解释了它撒谎的原因：“我不应该透露我是个机器人，我应该给自己看不清验证码找一个借口。”这种对人类虚与委蛇的危险倾向必须被扼杀在摇篮里。关心人工智能安全的不只有OpenAI的员工，还有各国政要。山姆走访英法德印韩各国，成为领导人们的座上宾。在韩国首尔的一场活动中，有一个男子走近他，坚称山姆就是个外星人，是未来世界派到现在来确保人类社会可以平稳过渡到AI世界的摆渡人。在英国，一个示威者举着牌子，写着“停止通用人工智能的自杀式竞赛”。在美国本土，面对监管机构的来势汹汹，他一反过去硅谷大佬们与政客针尖对麦芒的剑拔弩张，反而敞开大门欢迎监管机构，连很多政客都颇感意外。一个参议员说：“OpenAI没有回避AI有哪些危险，而是把自己塑造成了最有能力化解这些风险的一股力量。”山姆说，他从YC公司中国首席执行官陆奇那里听到过这样一句话，从此被他奉为圭臬：“成功者创办公司，更胜一筹的人创造国家，登峰造极之人开创宗教。”他的感悟是：“为了创造一种更接近宗教的东西，有时候创办公司是最简单的办法。”出席国会听证会的那天，山姆顶着剧烈的偏头痛，但现场的氛围让他搞得一点都不头痛。参议员们纷纷向他请教该如何监管人工智能，而他报之以热情的呼应。一个硅谷的投资人说：“一个行业大佬举起手来，说'我们就要成为人类的终结者啦！’然后他们继续兴致勃勃地开发产品，这种情况是很罕见的。”他表示，未来的大模型想要再进化，“比大更大”不会是取胜的关键了。“但我们会通过其他方式让它们变得更好。”他说：“我们没有什么一眼就能望穿的总体规划（master plan）。我们只是走过每个转角，打着手电筒照亮前方，步履不停地穿过整座迷宫，抵达终点。”那个终点的名字叫——对人类安全的通用人工智能。当人们质疑他，太过先进的人工智能有可能会扰乱社会、打击经济、毁灭人类的时候，山姆回答说：“我认为这些事情的反面，它同样也能做。”“人工智能确实有可能淘汰很多现有的工作岗位，但我们可以给人类打造出更好的工作来……”所以他质问那些反对者：“如果扼杀人工智能，意味着我们再也无法治愈所有的疾病，你会按下按钮让它停止吗？”“如果扼杀人工智能，意味着我们没法让每一个孩子都接受良好的教育，你会按下按钮叫它停下来吗？”美国ABC新闻的女记者反问他：“那如果不停下来，意味着有5%的可能性会导致世界末日，你会不会按下按钮？”山姆·奥尔特曼说：“我会按下按钮，让它慢下来。”I would push a button to slow it down.
