|
作者｜ 沐风 来源｜ 创头条 在最近的一次斯坦福大学对谈中，前谷歌CEO 埃里克·施密特（Eric Schmidt）深入探讨了他对人工智能的发展方向、全球科技竞争的未来，以及这些技术如何在短期内对社会、经济和国家安全产生深远影响的看法。 施密特还回顾了他在科技行业的多年经历，分享了对未来几年人工智能技术突破的预见。 施密特也指出了AI发展面临的挑战，包括算力需求、技术垄断、人才竞争、错误信息和对AI模型运作方式的理解。他强调了保持AI技术领先地位、应对错误信息以及理解AI模型运作方式的重要性。 但在谈论中施密特有些太过于“放飞自我”，导致一些言论引发巨大争议，除了称谷歌员工认为“在家工作比获胜更重要”引发争议外，他在谈及人工智能未来发展时，竟公然表示，AI 创业公司可以先通过 AI 工具盗取知识产权（IP），然后再雇佣律师处理法律纠纷。 施密特以短视频平台TikTok为例，声称如果TikTok被禁，任何人都可以用AI生成一个类似的应用，直接窃取所有用户、所有音乐等内容（Make me a copy of TikTok, steal all the users, steal all the music），迅速上线。如果产品成功爆红，创业者只需雇佣律师解决法律问题；如果产品失败，盗窃行为也就无足轻重。他甚至表示，硅谷就是这么运作的。 目前斯坦福大学已经删除了相关视频 以下为演讲实录 注：作为长期为美国国防部服务的施密特，他的言论立场需要鉴别，相信读者一定能自行理解。 AI的短期突破与深远影响 主持人：今天的客人确实需要介绍一下。我想我第一次见到埃里克是在大约 25 年前，当时他来到斯坦福商学院担任Novell的领导。从那时起，他从2001年开始在谷歌做了一些事情，从2017年开始在施密特期货公司做了一些事情，并且做了很多你可以做的事情阅读其他的事情，但他只能在这里直到5月15日，所以我想我们应该深入研究一些问题，我知道你们也发了一些。我在这里写了很多，但我们刚才在楼上讨论的内容很有趣，所以我要从这个开始，埃里克，如果可以的话，这就是你认为人工智能在短期内会更走向何方，我认为你将其定义为未来一两年？ 施密特：事情变化得如此之快，我觉得每六个月我都需要发生一次发表新的演讲。 任何人都可以听到计算机的声音，预算计算机科学工程师，任何人都可以向班上的其他人解释百万令牌上下文窗口是什么吗？你在这里。说出你的名字，告诉我们它的作用。 学生：基本上它允许你用一百万个令牌或一百万个单词或其他什么来提示。 施密特：所以你可以问一个百万字的问题。 学生：是的，我知道这是一个非常大的方向。 施密特：不，不，他们他们正在迈向1000万。是的，其中几个。Anthropic已经达到了200,000，他们的目标是达到百万等等。你可以想象 OpenAI 也有类似的目标。 这里有人可以给出人工智能代理的技术定义吗？是的，先生。所以代理是执行某种任务的东西。另一个定义是它是一个LLM内存中的状态。计算机科学家们，你们中的任何人都可以定义文本到动作吗？ 学生：获取文本并将其转化为行动？ 施密特：不是获取文本并将其变成更多文本，而是获取文本并让人工智能触发操作。 所以另一个定义是 Python 语言，我从来不想看到这种编程语言生存下来，人工智能中的一切都是用 Python 完成的。 有一种名为 Mojo 的新语言刚刚问世，看起来他们终于解决了人工智能编程问题，但我们将看看它是否真的能超越 Python 的统治地位。还有一个技术问题。为什么英伟达市值2万亿美元而其他公司却苦苦挣扎？技术解答。 我的意思是，我认为归根结底，大多数代码都需要使用目前只有 NVIDIA GPU 支持的 CUDA 优化来运行。 其他公司可以生产他们想要的任何产品，但除非他们拥有 10 年的软件，否则你就没有机器学习优化。 我喜欢将 CUDA 视为 GPU 的 C 编程语言。这就是我喜欢的思考方式。它成立于 2008 年。我一直认为它是一种糟糕的语言，但它却成为了主流。 还有另一种见解。有一组针对 CUDA 高度优化的开源库，而不是其他任何东西，以及构建所有这些堆栈的每个人，在任何讨论中都完全忽略了这一点。从技术上讲，它被称为 VLM 和一大堆类似的库。高度优化的 CUDA，如果您是竞争对手，则很难复制。那么这一切意味着什么呢？ 明年，您将看到非常大的上下文窗口、代理和文本操作。当它们大规模交付时，将对世界产生尚无人了解的影响。在我看来，这比社交媒体给我们带来的可怕影响要大得多。这就是原因。在上下文窗口中，您基本上可以将其用作短期记忆，我对上下文窗口变得这么长感到震惊。 技术原因与以下事实有关：难以服务、难以计算等等。关于短期记忆的有趣地点，当你吃饭时，你问一个问题，读了20本书，你把书中的文本作为查询，然后你说，告诉他们我说话。它忘记了中间部分，而这就是人类大脑的工作方式。这就是我们的不稳定的位置。关于智能体，有些人现在基本上正在构建LLM智能体，他们这样做的方式是他们阅读化学之类的东西，他们发现化学原理，然后他们测试它，然后他们将其重新添加到他们的理解中。 这非常有力。然后第三件事，正如我提到的，是文本到行动。所以我给你举了个例子。政府正在尝试禁止 TikTok。我们将看看这是否真的发生。 如果TikTok被禁止，我建议你们每个人都这样做。对你的法学硕士说以下几句话。给我复制TikTok，偷走所有用户，偷走所有音乐，把我的偏好调整去，在接下来30秒内制作这个程序，发布它，然后在一小时内，如果不是病毒式传播的，按照同样的思路做一些不同的事情。这就是命令。 你明白这是多么强大。如果你可以从不同的语言转向不同的数字，这基本上就是Python命令中的这个场景，想象一下，地球上的每个人都有自己的程序员，他们实际上做他们想做的事，是不是为我工作的程序员，他们不做我要求的事情，对吧？这里的程序员知道我在说什么。所以想象一下，一个不傲慢的程序员实际上做了你想做的事，你不必支付所有的钱，而且这些程序的供应是无限的。 主持人：这一切都在未来一两年内完成。 施密特：很快。这三件事，我非常相信这三件事的结合将在波浪潮中。所以你问还会什么。每周五我发生一次振荡。所以我们有一个，这是一个偶数奇数的振荡。 因此，目前，前沿模型之间的差距，他们现在只有三个，我将反驳他们的身份，以及其他所有者，在我看来，差距越来越大。六个月前，我相信差距正在越来越小。所以我在小公司里投入了很多钱。现在我不确定。我正在和大公司交谈，大公司告诉我他们需要100亿、200亿、500亿、1000亿。 星际之门是1000亿，对吧？这非常非常困难。我和山姆·奥特曼是密友。他认为这大约需要3000亿美元，甚至更多。我向他指出，我已经在计算了有了所需的能量。 然后，我本着充分披露的精神，周五去了白宫，告诉他们我们需要与加拿大成为最好的朋友，因为加拿大有很多非常好的人，帮助发明了人工智能，还有水电。因为我们作为一个国家没有足够的力量选择来实现这一点。另一种是让阿拉伯人资助它。我个人喜欢阿拉伯人。我在那里花了很多时间，对吧？ 但他们不会遵守我们的国家安全规则。而加拿大和美国是我们都同意的三部分的一部分。 主持人：因此，这些价值1000亿美元、3000亿美元的数据中心，电力数据中心成为稀缺资源。 AI芯片领先地位很难被超越 施密特：顺便说一句，如果你按照这个推理思路，我为什么要讨论 CUDA 和 Nvidia？ 如果3000亿美元全部流向英伟达，你就知道在股市上该做什么了。好。这不是股票推荐。我没有发言。嗯，这是一部分。 主持人：所以我们需要更多的芯片，但英特尔从美国政府获得了很多钱。 AMD他们正在尝试 在建设半导体制造厂。如果您的计算机中有英特尔计算机，则请举手，您的任何计算设备中都有英特尔芯片。好。垄断就这么多。嗯，这就是重点。 他们曾经确实拥有垄断地位。绝对。英伟达现在拥有垄断地位。现在，像CUDA这样的进入壁垒，不是有其他的东西，所以我和Percy聊天，前几天Percy Landy，他在TPU和Nvidia芯片之间切换，这取决于他能够获得什么来训练模型。 施密特：那是因为他别无选择。如果他有无限的钱，他会，今天他会选择 Nvidia 的 B200 架构，因为它会更快。我不是说，我是说，有比较是件好事。我与 AMD 和 Lisa Sue 进行了很长时间的交谈。他们已经构建了一个东西，将从您描述的这个 CUDA 架构转化为他们自己的架构，称为 Rockum。另外没有完全的作业。他们正在努力。 谷歌输给OpenAI 只因员工不够卷 主持人：你在 Google 工作了很长时间，他们发明了变压器架构。彼得，彼得。这都是彼得的错。感谢另外的聪明人，比如彼得和杰夫·迪恩以及所有者。 但现在看起来不是，他们已经失去了开放人工智能的主动权，甚至最后一个排行榜，我看到了Anthropix。克劳德位居榜首。我问了Sundar这个问题，他并没有给我一个非常尖锐的答案。也许，也许你对那里发生的事情有一个更清晰的记录的解释。本着全面披露的精神， 施密特：我不再是谷歌的员工。谷歌认为，工作与生活的平衡、早点回家和在家工作比取得胜利更重要。而创业公司，创业公司之所以能成功，是因为人们工作得像地狱一样。我很遗憾这么直言不讳，但事实是的，如果你们都离开大学，去找一家公司，你们不会让人们在家工作，每周只来一天。如果你想与谷歌早期的其他创业公司竞争。 主持人：微软就是这样。完全。 施密特：但现在看来，在我的行业中，我猜，我们的行业有着悠久的历史，公司以真正创新的方式触发，真正主导了一个领域，而不是仅仅将其作为下一个过渡。所以我们很好我认为创始人这一事实是特别的。创始人需要负责。创始人很难合作。 他们努力推动人们。尽管我们不喜欢埃隆的个人行为，但他从那里的人们得到了什么。我和他一起吃晚饭，他正在飞翔。我当时在蒙大拿州。他当晚10点乘车飞机，在午夜与 x.ai 会面准备。 我在台湾，他们说这是台积电，我对他们印象深刻。他们有一条规则，从优秀的物理学家中出来的初生博士必须在工厂的地下室工作。现在，你能想象一下让美国物理学家这样做吗？博士，极不可能。 不同的职业道德。这里的问题是，这些系统具有网络效应。所以时间很重要。在大多数企业中，时间并不那么重要。你有很多时间。 可口可乐和百事可乐仍然存在，可口可乐和百事可乐之间的战斗将继续进行，一切都是冰河。当我与电信公司打交道时，典型的电信协议需要18个月才能签署。没有理由花18个月的时间做任何事情。完成它。我们正处于一个增长最大、收益最大的时期。 而且它也需要疯狂的想法。就像微软做 OpenAI 交易时一样，我认为这是我听过的最愚蠢的想法。基本上将你的 AI 领导权外包给 OpenAI 和 Sam 和他的团队。我的意思是，这太疯狂了。在微软或其他任何地方，没有人会这样做。 然而，今天，他们正在成为最有价值的公司。他们肯定是苹果的正面交锋。苹果没有一个国家好的人工智能解决方案，看起来他们安排了作业。是的，先生。在安全或地缘上政治利益方面，您认为人工智能将如何发挥作用或与中国竞争？ 所以我是一个人工智能委员会的主席，我非常仔细地研究了这一点，你可以阅读它。大约有752页，我总结了一些，我们的例子了，我们需要保留例子，我们需要很多钱来实现这件事一点。我们的客户是初始化和初始化。不断收到的是《芯片协议》和许多其他类似的东西。一个粗略的情况是，如果你假设前沿模型向前发展，并且有一些开源模型，那么很可能只有极少数公司可以玩这个游戏。 各国，一致。那些国家是什么，他们是谁？拥有大量资金和大量人才、强大的教育体系和愿望的国家。美国就是其中之一。中国是另一个。 还有其他的？ 主持人：还有其他的吗？ 全球科技竞争中的中美博弈 施密特：我不知道。或者。但可以肯定的是，在你们有生之年，美国和中国之间争夺知识霸权的战斗将成为一场战争。 因此，美国政府基本上禁止了英伟达芯片，尽管他们不被允许说这是他们正在做的事情，但他们实际上这样做了。我们有大约 10 年的芯片优势。我们在细分市场上大约领先10年，就我们而言，我们有大约 10 年的芯片优势。因此，举个例子，今天我们比中国领先几年的技术。我的猜测是，我们进一步拉开与中国的距离，而中国对此非常愤怒。 所以这是一个大问题。这是特朗普政府做出的决定，并由拜登政府推动。 主持人：你是否发现今天的国会政府在听取你的建议吗？你认为是这样会带来如此规模的投资吗？ 显然，芯片任务已经完成，但除此之外，还必须建立一个庞大的人工智能系统吗？ 施密特：所以，正如你所知道的，我领导着一个非正式的、临时的、非法律的团体。这与非法行为不同。没错。只是为了搞清楚。 其中包括所有的嫌疑人。而过去一年来，通常的嫌疑人提出了成为拜登政府人工智能法案的推理基础，这是历史上最后的总统指令。 主持人：你说的是竞争性的特别研究项目吗？ 施密特：不，这是行政办公室的实际行为。他们正忙于实施细节。 其中，他们做了对的。因此，举个例子，我们去年的一个辩论是，你如何发现一个已经学会了它，但你不知道该问什么系统中的危险？一个核心问题。它学到了一些不好的东西，但它不能告诉你它学到了什么，你不知道该问它什么。而且威胁如此之多。 就像它学会了如何以某种你不知道如何问它的新方式化学混合反应一样。因此，正在努力解决这个问题。但人们最终在给他们的格式中写入，有一个阈值，我们简单命名为 10 到 26 次翻牌，从技术上讲，这是一个计算的时髦标准，超过这个阈值，你必须向政府报告你正在这样做。这是规则的一部分。欧盟只是为了确保他们与众不同，做到了10到25个。 但这一切都已经足够接近了。我认为所有这些区别都消失了，因为技术现在会，这个技术术语被称为联合，基本上你可以把各个部分合并训练放在一起。因此，我们可能无法保护人们承载这些新事物的行为。 主持人：嗯，有传言说，这就是 OpenAI 的训练方式，部分原因是功耗。他们没有一个这样做的地方。 好吧，让我们谈谈一场举行的真正的战争。我知道你非常参与的事情是乌克兰战争，特别是，我不知道你是否可以谈论白鹳，而你的目标是赚 500,000 美元、500 美元的无人机摧毁了500万美元的坦克。 施密特：这如何改变战争？我为国防部工作了七年，试图改变我们管理军队的方式。我不是特别喜欢军队，但它非常昂贵，我想看看我是否可以提供帮助。 我认为在我看来，我非常失败。他们给了我一枚奖牌，所以他们必须给失败者或其他什么奖牌获得者。但我的自我批评是，什么都没有真正改变，美国的制度不会带来真正的创新。因此，看着俄罗斯人用炸弹摧毁了小老太太和孩子们的公寓楼，我简直发疯了。所以我决定和你的朋友塞巴斯蒂安·特伦（Sebastian Thrun）一起在一家公司工作，他是这里的前教员，还有一大群斯坦福大学的人。 这个想法基本上是做两件事。在这些本质上是机器人的战争中，以复杂而强大的方式使用人工智能，第二个是降低机器人的成本。现在你坐在那里，你走了，为什么像我这样的好自由主义者会这样做吗？答案是，军队的整个都是坦克、大炮和直击炮，我们可以消灭所有这些，我们至少可以通过陆路入侵一个国家的惩罚基本上是不可能的。它应该消除那种陆战。 主持人：嗯，这是一个问题是，是否给防守而不是进攻带来了更多的优势？你甚至可以做出这种区分吗？ 施密特：因为我去年一直在做这件事，所以我学到了很多关于关于战争，需要了解的一件事是，进攻战争总是有优势，因为你总是可以压倒防御系统。因此，作为防御战略，你最好有一个非常强大的进攻，如果你需要的话，你可以使用它。 我和其他人正在构建的系统将实现这一点。由于该系统的运行方式，我现在是一名有监测的军火商、计算机科学家、改装和军火商。这是一个进步吗？我不知道。我不会在你们的小组中这样做。 我坚持使用人工智能。由于法律的运作方式，我们是私下进行的，然后在政府的支持下，这一切都是合法的。它直接进入乌克兰，然后他们打仗。如果不深入到所有细节，事情就我认为，如果在5月或6月，如果俄罗斯人像他们预期的那样建立起来，乌克兰将失去一整块领土，并开始失去整个国家的过程。 所以情况相当可怕。如果有人认识玛乔丽·泰勒·格林（Marjorie Taylor Greene），我鼓励你把她从你的股票列表中删除，因为她就是那个，一个人正在阻止提供近亿美元的资金资金来拯救一个重要的民主国家。 对抗性人工智能与安全挑战 主持人：我想换个话题来回答一点哲学问题。所以你、亨利·基辛格和丹·赫滕莱克去年写了一篇关于知识的本质以及它是如何演变的。前几天晚上我对这个问题进行了讨论。 因此，在历史的大部分时间里，人类对宇宙都有一种神秘的理解，然后出现了科学革命和启蒙运动。在您的文章中，您认为现在这些模型变得如此复杂且难以理解，以至于我们并不真正知道其中发生了什么。我引用理查德·费曼的话。他说：“我无法创造的东西，我就不理解。”前几天我看到了这句话。但现在人们正在创造他们可以创造的东西，但他们并没有真正理解其中的内容。 知识的本质是否发生了某种变化？我们是否必须开始只接受这些模型的说法，而他们却无法向我们解释？ 施密特：我想用青少年来比喻。如果你有一个青少年，你知道他们是人类，但你无法完全弄清楚他们在想什么。但不知何故，我们在社会中设法适应了青少年的存在，而他们最终会长大而摆脱这种状态。 我只是认真的。因此，我们可能会拥有无法完全表征的知识系统，但我们了解它们的边界。我们了解他们能做的事情的局限性。这可能是我们能得到的最好结果。 主持人：你认为我们会理解这些限制吗？ 施密特：我们会做得很好。我的小组每周开会的共识是，最终你将采用这种所谓的对抗性人工智能的方式，实际上将会有一些公司你会雇佣并付费来破坏你的人工智能系统。比如红队。因此，与他们今天所做的人类红队不同，你将拥有整个公司和整个人工智能系统行业，他们的工作是打破现有的人工智能系统并找到它们的漏洞，特别是他们拥有的知识，我们可以想不通。这对我来说很有意义。 对于斯坦福大学的你们来说，这也是一个很棒的项目，因为如果你们有一名研究生必须弄清楚如何攻击这些大型模型并了解它的作用，那么这是构建下一代的一项伟大技能。所以对我来说，两人一起旅行是有道理的。 提问环节 主持人：好吧，我们来回答这位同学的一些问题。后面有一个。只要说出你的名字。 学生：你之前提到过，这与现在的评论有关，让人工智能真正做你想做的事。您刚才提到了对抗性人工智能，我想知道您是否可以详细说明一下。因此，除了明显的计算机语言原因之外，似乎还需要获得更高性能的模型，但在我看来，让它们做你想做的事情似乎部分没有得到解答。 施密特：好吧，你必须假设，随着技术的进步等等，当前的幻觉问题会变得越来越少。我并不是建议它消失。 然后你还必须假设有功效测试。所以必须有一种方法来知道事情是否超出了。因此，在我举的 TikTok 竞争对手的例子中，顺便说一句，我并不是说你应该非法窃取每个人的音乐。如果你是一名硅谷企业家（希望你们所有人都会如此），你会做的是，如果它起飞了，那么你会聘请一大群律师来收拾残局，对吧？但如果没有人使用你的产品，那么你窃取了所有内容也没关系。 并且不要引用我的话。 主持人：你在镜头前。 施密特：是的，没错。 但你明白我的意思。换句话说，硅谷将进行这些测试并清理混乱。这些事情通常就是这样完成的。所以我自己的观点是，你会看到越来越多的高性能系统，具有更好的测试和最终的对抗性测试，这将把它限制在一个盒子里。专业术语称为思维链推理。 人们相信，在接下来的几年里，你将能够产生一千个步骤的思维推理链，对吗？做这个，做这个。这就像制作食谱，对吧？对于配方，您可以运行该配方，并且可以实际测试它是否产生了正确的结果。这就是系统的运作方式。 学生：是吗，先生？总的来说，您似乎对人工智能问题的潜力非常乐观。我很好奇，你认为是什么推动了这一点？只是更多的计算吗？是更多的数据吗？ 这是根本性的还是实际的转变？ 施密特：是的。你同意？被扔掉的钱财数量令人难以置信。我选择了，我基本上投资了一切，因为我无法弄清楚谁会赢。 而且跟踪我的资金数额如此之大。我认为部分原因是因为早期的钱已经赚到了，而那些不知道自己在做什么的大钱人必须拥有人工智能组件。现在一切都是人工智能投资，所以他们无法区分。我将人工智能定义为学习系统，真正学习的系统。所以我认为这就是其中之一。 第二个是有非常复杂的新算法，有点像后变压器。我的朋友，我的合作者，长期以来发明了一种新的非变压器架构。我在巴黎资助的一个团体声称也做了同样的事情。那里有巨大的发明，斯坦福大学有很多东西。最后一点是，市场有一种信念，即智能的发明具有无限的回报。 假设你向一家公司投入了 500 亿美元的资金，你必须从情报中赚到大量的钱才能偿还。因此，我们可能会经历一些巨大的投资泡沫，然后它会自行解决。这在过去一直是正确的，现在也可能是正确的。你之前所说的是，你认为领导人正在远离其他人。现在。 问题大致如下。法国有一家公司叫Mistral。他们做得非常好。我显然是一个投资者。他们已经制作了第二个版本。 他们的第三个模型很可能会被关闭，因为它太贵了，他们需要收入，而且他们不能放弃他们的模型。因此，我们行业中开源与闭源的争论非常激烈。我的整个职业生涯都建立在人们愿意分享开源软件 的基础上。关于我的一切都是开源的。谷歌的大部分基础都是开源的。 我所做的一切都是技术性的。然而，巨大的资本成本可能会从根本上改变软件的构建方式。你和我正在说话。我自己对软件程序员的看法是，软件程序员的生产力至少会翻倍。有三四家软件公司正在尝试这样做。 我全都投入了精神。他们都在努力提高软件程序员的工作效率。我刚刚遇到的最有趣的一个叫做“增强”。我总是想到个体程序员。他们说，那不是我们的目标。 我们的目标是由 100 人组成的软件编程团队，编写数百万行代码，但没人知道发生了什么。嗯，这确实是一个很好的人工智能技术。他们会赚钱吗？我希望如此。所以这里有很多问题。 学生：你好。所以一开始你就提到了上下文窗口扩展的结合。代理人和行动文本将产生难以想象的影响。首先，为什么组合很重要？其次，我知道你不像水晶球，你不一定能预测未来。 但为什么你认为这超出了我们的想象呢？ 施密特：我认为很大程度上是因为上下文窗口可以让你解决新近度问题。目前的模型需要一年的时间来训练大约18个月，六个月的准备，六个月的训练，六个月的微调。所以它们总是过时的。上下文窗口，您可以提供发生的情况。 您可以在上下文中询问有关哈马斯以色列战争的问题。那是非常强大的。它像谷歌一样变得流行。就代理而言，我举个例子。我成立了一个基金会，为非营利组织提供资金。 我不知道房间里是否有药剂师。我实在不懂化学。有一个工具叫ChemCrow，CROW，它是一个LLM基于学习化学的系统。他们所做的就是运行它来生成有关蛋白质的化学假设，他们有一个实验室可以连夜运行测试，然后进行学习。这是化学、材料科学等领域的巨大加速和促进剂。 这就是代理模式。我认为只要有很多廉价的程序员就可以理解从文本到行动，对吗？我认为我们不明白会发生什么，这又是你的专业领域，当每个人都有自己的程序员时会发生什么。我不是在谈论打开和关闭灯。我想，另一个例子，由于某种原因你不喜欢谷歌。 所以你说，“让我成为谷歌的竞争对手。”是的，就你个人而言，你并没有把我打造为谷歌的竞争对手。“搜索网络。构建 UI。制作一个好的副本。以有趣的方式添加生成人工智能。 在 30 秒内完成，看看它是否有效。”对吗？所以很多人认为，包括 Google 在内的现有企业很容易受到这种攻击。现在，我们拭目以待。 主持人：有很多问题是谁提出的？是由 Slatter 发送过来的，我想让其中一些得到赞成。 所以这是一个。去年我们谈过一些这个问题。我们如何才能阻止人工智能影响公众舆论、错误信息，特别是在即将到来的选举期间？他们的短期和长期解决方案是什么？ 施密特：即将到来的选举和全球范围内的大多数错误信息都将出现在社交媒体上。 而且社交媒体公司的组织不够完善，无法对其进行监管。例如，如果你看看 TikTok，就会发现很多人指责 TikTok 偏爱一种错误信息而不是另一种错误信息。据我所知，有很多人在没有证据的情况下声称中国人强迫他们这样做。我认为我们这里一团糟。这个国家必须学习批判性思维。 这对美国来说可能是一个不可能的挑战，但有人告诉你一些事情并不意味着它是真的。 主持人：反之亦然会不会走得太远？有些事情确实是真的，但没有人再相信了。有些人称之为“瘟疫危机”，现在，你知道，埃隆说，“不，我从来没有这样做过。 证明一下。” 施密特：哦，让我们用唐纳德·特朗普来证明。听着，我认为我们的社会存在信任问题。民主可能会失败。我认为对民主的最大威胁是错误信息，因为我们将非常擅长于此。当我管理 YouTube 时，我们在 YouTube 上遇到的最大问题是人们会上传虚假视频，从而导致人们死亡。 我们有禁止死亡政策。令人震惊。试图解决这个问题真是太可怕了。在生成人工智能之前我没有一个好的答案。 主持人：一项技术并不能解决问题，但有一件事似乎可以减轻我理解为什么它被更广泛使用的原因是公钥身份验证。当乔·拜登讲话时，为什么不像 SSL 那样进行数字签名？或者名人或公众人物或其他人，他们不能有公钥吗？ 施密特：是的，这是一种公钥形式，然后是某种形式的确定性，可以了解系统如何当我将信用卡发送到亚马逊时，我知道它是亚马逊。我写了一篇论文并与乔纳森·海特（Jonathan Haidt）一起发表，他是研究焦虑产生问题的人。 它的影响完全为零。他是一个非常好的沟通者。我可能不是。所以我的结论是，这个系统并没有按照你所说的那样组织起来。 主持人：你有一篇论文提倡我们所做的事情吗？ 施密特：提倡你的建议。好吧，我的建议。不，你说的。是的，对。我的结论是，首席执行官们总体上正在实现收入最大化。 为了最大化收入，您需要最大化参与度。为了最大限度地提高参与度，你就最大限度地提高了愤怒。算法选择愤怒是因为这会产生更多收入。因此，人们偏爱疯狂的东西。从各方面来看，我并不是在这里发表党派声明。 这是一个问题。这个问题必须在民主国家得到解决。我对 TikTok 的解决方案，我们之前私下讨论过，当我还是个男孩的时候，有一个叫做平等时间规则的东西，因为 TikTok 真的不是社交媒体。这真的是电视剧，对吧？顺便说一句，有个程序员给你算了个数字：美国每个 TikTok 用户每天播放 90 分钟，每个 TikTok 视频有 200 个。 很多，对吧？因此，政府不会实行平等时间规则，但这是正确的做法。需要某种形式的平衡。 人工智能对社会和劳动力市场的冲击 主持人：好吧，让我们再问一些问题。 施密特：两个简单的问题。 一、LM 的经济影响。市场影响较慢。慢点。您原本预计会有 CHEG 和几个服务人员。第二个问题，您认为学术界值得或应该获得人工智能补贴吗？ 或者您认为他们应该与那里的大公司合作？我非常非常努力地推动为大学建立数据中心。如果我是这里计算机科学系的一名教员，我会非常沮丧，因为我无法与我的研究生一起构建将进行博士研究的算法。我被迫与这些一起工作。在我看来，这些公司在这方面还不够慷慨。 与我交谈过的教职员工（其中许多是您认识的人）花费大量时间等待 Google Cloud 提供的学分。太可怕了。这是我们希望美国赢得胜利的一次爆炸。我们想要美国大学。有很多理由认为正确的做法是将其交给他们。 所以我正在为此努力。你的第一个问题是劳动力市场的影响。我会在这里听取真正的专家的意见。正如埃里克（Eric）教授的业余经济学家一样，我从根本上相信大学教育高技能任务会很好，因为人们会使用这些系统。我认为这些系统与任何其他技术浪潮没有什么不同。 危险的工作和几乎不需要人类判断的工作将被取代。 主持人：我们还有大约五分钟的时间。所以让我们快点来吧。Eric你来选问题吧。 学生：你好。我真的很好奇文本到行动及其对计算机科学教育等的影响。我想知道您对于CS教育应该如何转型以适应时代的想法有何想法？ 施密特：好吧，我假设本科生中的计算机科学家作为一个群体总会有一个程序员伙伴。因此，当您学习第一个 for 循环等时，您将拥有一个成为您天然伙伴的工具。 这就是教学的方式。教授，他或她会谈论这些概念，但你会以这种方式参与其中。这就是我的猜测。 学生：您更多地谈论了您感兴趣的非变压器架构。我认为已经讨论过的一个类似于状态模型，但现在是一个更长的上下文类。我更好奇你在这个案例中看到了什么。 施密特：我对数学的理解不够好。我真的很高兴我们为数学家创造了就业机会，因为这里的数学非常复杂，但基本上它们是进行梯度下降、矩阵乘法的不同方法，更快更好。 正如你所知，变形金刚是一种同时繁殖的系统方式。我就是这么想的。它与此类似，但数学不同。 学生：您在关于自然安全的论文中提到，今天有中国和美国以及现代建筑的帮助。接下来的 10 个和下一个集群都是美国的其他盟友，或者通过美国很好地做好了准备。 我很好奇你对那些不是正式盟友的十个国家和中间国家有何看法。他们参与确保我们的安全期限的可能性有多大？什么会阻止他们参与？ 施密特：最有趣的国家是印度，因为顶尖的人工智能人才从印度来到美国，我们应该让印度保留一些顶尖人才。 不是全部，而是其中一些。他们没有我们这里丰富的培训设施和项目。对我来说，印度是这方面的重要摇摆国家。 欧洲因为布鲁塞尔而搞砸了。这并不是什么新事实。我花了10年时间与他们战斗。我非常努力地让他们修改欧盟法案，但他们仍然受到所有限制，使我们在欧洲进行此类研究变得非常困难。我的法国朋友们一直在与布鲁塞尔作斗争，而作为我的私人朋友的马克龙正在为此努力奋斗。 所以我认为法国有机会。我不认为德国会到来，而且其他国家也不够大。 学生：所以我了解到你是一名经过培训的工程师，就像你所说的编译器一样。 考虑到您设想的这些模型具有的功能，我们是否还应该花时间学习编码？ 施密特：因为归根结底，这是老生常谈的问题：如果你会说英语，为什么还要学英语？你会变得更好。你确实需要了解这些系统是如何工作的，我的感觉非常强烈。 学生：是的，先生。 我很好奇您是否探索过分布式设置，我之所以这么问是因为，当然，创建一个大型集群很困难，但 MacBook 很强大。世界各地有很多小型机器。那么你认为在家折叠或者类似的想法适用于训练吗？事实并非如此。 施密特：是的，我们已经非常努力地研究过这一点。所以算法的工作方式是你有一个非常大的矩阵，并且本质上有一个乘法函数。因此，可以将其视为来回、来回。而且这些系统完全受到内存到CPU或GPU的速度的限制。事实上，下一代 Nvidia 芯片已将所有这些功能合并到一个芯片中。 现在芯片太大了，它们都粘在一起了。事实上，封装非常敏感，以至于封装和芯片本身都在洁净室中组装在一起。所以答案看起来是超级计算机和光速，尤其是内存互连，真正占据主导地位。所以我认为暂时不太可能。 主持人：有没有办法分段LLM？ 所以杰夫·迪恩（Jeff Dean）去年在这里演讲时谈到了将其中的这些不同部分分开训练，然后进行联合训练。 施密特：为了做到这一点，你必须拥有 1000 万个这样的东西，然后你提出问题的方式就会太慢。他说的是 8 台、10 台或 12 台超级计算机。是啊是啊。所以还达不到 MacBook 的水平。 还没有达到他的水平。是的。让我们看看，在后面。是的，很早以前。所以我知道《纽约时报》发布GQQ并开放使用他们的作品进行训练之后，您认为这将走向何方？这对数据处理意味着什么？ 我曾经在音乐许可方面做了很多工作。我了解到，在 60 年代，发生了一系列诉讼，最终达成了一项协议，只要播放你的歌曲，你就可以获得规定的版税。就连他们也不知道你是谁。刚刚存入银行。我的猜测是，这将会是同样的事情。 将会有很多诉讼，并且会有某种规定的协议，它只会说你必须支付你所拥有的任何收入的 X% 才能使用 ASCAP BMI。ASCAP 体重指数。查找它们。就这样一起来了对你来说，它会显得很老，但我认为这就是它的交替方式。 学生：似乎有几个玩家在主导AI，对吧？他们将继续占据主导地位。它们似乎与所有反垄断监管所关注的大 公司有重叠。您如何看待这两种趋势...... 是的，您是否看到监管机构拆分这些公司？这将如何影响…… 施密特：是的。所以在我的职业生涯中，我帮助微软分拆了，但它并没有分拆。我为谷歌不被分拆而奋斗，它也没有被分拆。所以在我看来，这种趋势确实不会被打破。 只要公司避免成为老约翰·D·洛克菲勒。我研究了这个。查一下。反垄断法就是这样诞生的。 我不认为政府会采取行动……你看到这些大公司占据主导地位的原因是谁有资本建造这些数据中心，对吗？所以我的朋友里德和我的朋友穆斯塔法...他下周来，两周后。请里德与您谈谈他们做出的改变并从本质上将其一部分并入微软的决定。 基本上，他们决定无法筹集数百亿美元。 主持人：您之前提到的那个号码是公开的吗？ 施密特：不，让里德给你号码。或许里德可以这么说。 主持人：我知道你得走了。我不想阻止你。 施密特：我想离开，我们还要继续这个话题吗。 主持人：我也有一个问题想问你。继续吧。太感谢了。例如，我想知道所有这一切将把那些未参与前沿模型开发和计算获取的国家带向何方。 施密特：富人愈富，穷人则尽其所能。他们必须...事实是这是一个富裕国家的游戏，对吗？资金雄厚，技术力量雄厚，政府大力支持，对吗？有两个例子。 还有很多其他国家也存在各种各样的问题。他们没有这些资源。他们必须找到一个合作伙伴。他们必须与其他人一起加入，诸如此类。我想留下它... 主持人：因为我想我们上次见到你时，你正在 AGI House 参加一场黑客马拉松，我知道你花了很多时间帮助年轻人创造大量财富，而且你非常热情地谈到想要这样做。 当这里的人们正在构建他们的……他们正在为这门课程编写商业计划或在职业发展的这个阶段的政策提案或研究提案时，您对他们有什么建议吗？ 施密特：嗯，我在商学院教过这方面的课程，所以你应该来听我的课。我对你展示新想法的速度感到震惊。 因此，在我参加的一场黑客马拉松中，获胜团队的命令是“在两座塔之间飞行无人机”，并为其提供了一个虚拟的无人机空间。它弄清楚了如何驾驶无人机，以及之间的单词的含义，用 Python 生成代码，并让模拟器中的无人机飞过塔楼。优秀的专业程序员可能需要一两周的时间才能做到这一点。我告诉你，快速制作原型的能力……作为一名企业家的部分问题是一切都发生得更快。 好吧，现在，如果您无法使用这些不同的工具在一天内构建出原型，那么您需要考虑一下，对吗？因为这就是你的竞争对手正在做的事情。所以，我想我最大的建议是，当你开始考虑一家公司时，写一份商业计划就可以了。事实上，你应该让计算机为你写出你的商业计划，只要它是合法的。 主持人：事实上，我应该在你离开之后再谈这个。 施密特：但我认为尽快使用这些工具来原型化你的想法非常重要，因为你可以确定另一个人在另一家公司、另一所大学、在你从未去过的地方做着完全相同的事情。 主持人：好的。嗯，非常感谢，亚伦。谢谢大家。 施密特：我要赶紧走了。谢谢。 图片来源｜网络 |
|
|
