|
创世之力注： 1/ 有幸在一周前4.23于斯坦福校园线下参与了斯坦福炉边对话——中美AI大模型的未来之路； 2/ Aligns.ai团队精心准备的活动，设计的几个问题，分别从中美大模型商业化、企业应对的组织转型、资本和算力之后生态之战、风险控制与伦理合规等方面进行了深入浅出的探讨； 3/ 戴雨森老师（真格基金管理合伙人&聚美优品联合创始人）、雷鸣老师（智慧基石资本创始合伙人&北大AI创新中心主任&百度七剑客&酷我创始人）、程浩老师（远望资本合伙人&迅雷创始人）：这三位嘉宾经历过web1.0-2.0时代的创业者转型为基金投资人，因此，在分析问题的思路会明显有跨越科技周期的对比web1.0-web2.0分析逻辑，同时也站在整个创业周期的视角，即不仅仅是技术的发展，还有商业化和资本化的运营全周期思考分析框架，这样的分析对理解当下的AIGC创业会更加客观理性； 4/ 耿欣旸老师（UC Berkeley Koala大模型第一作者，UC Berkeley PhD in
EECS）、李志飞老师（出门问问创始人兼CEO&前Google科学家）、贾扬清老师（前阿里巴巴集团VP&前阿里云大数据和AI产品线负责人）：这三位相对新生代，是当下AIGC的创业的弄潮儿，其观点和思路会更集中在当下技术创新的方式，结合开源社区的角度，探索AIGC的落地应用，特别是技术前沿以及技术深度, 让我们能一窥硅谷大模型最前沿趋势； 5/ 刁孝力Stanley & 戴嘉韵Jennifer & AIGC整理。All brilliance in this Article is aligns.ai and the speakers’;
any mistakes are mine.
讨论1：大模型商业化的场景有哪些？ 戴雨森老师： 第一种：产品如果有场景的优势，结合大模型的特点，这可能是最集中的一种方式； 第二种：像公有云这样，这种情况下，前面的几家差距不是特别大；但是各有各的特点，我可以用价格、服务和生态，去做差异化，这样前几家，以2B的形式，给大量其他应用提供服务，这种情况下，形成少数寡头垄断； 第三种：假设AGI，不是百公里的赛跑，在某个阶段会遇到瓶颈。AI的发展和互联网不太一样。相对而言，互联网是一直会指数增长，不会遇到什么真正技术壁垒；但是AI有时候会像上台阶一样，有时会遇到像transformor一些新的方向才能解决这些问题，这时候你发现，比如说大家都在同一个地方遇到了一个瓶颈，可能大家都在接近这个短期的终点，那这时候，开源生态也是一个非常大的变数，毕竟现在谈论的都是闭源模型，但是如果未来有个开源模型变得足够好，很多人在这里做很多额外的工作，那就可能变得和安卓一样（大部分人都用安卓，少部分人用iOS），因此会演化成一个以开源生态为主的基本格局，甚至有可能最差的一种情况，像人脸识别，人脸识别刚出来的时候也是一种黑科技，但后来大家发现，变成了一种commodity, 大家都有人脸识别这个技术。 因此，挺需要看接下来的2B2C的发展，智能提高在哪里会遇到瓶颈，开源生态的变化如何。个人对通用模型呈比较开放的态度，非常早期；垂直模型其实有很多机会，显然在很多领域，其专有的数据，会变成很重要的差异点，i.e. Bloomberg有很多数据是AI无法公开获得的; 此外，确实很多企业对私有化和本地化部署具有很高的要求，这不仅仅是云计算和云存储的情况，而是说，你的用户的行为和内容，是否会变成大模型的一部分，但是有很多公司，不愿意看到这样的情况的。所以我觉得不管是领域的专有模型，还是本地化的一些部署的方案上，都有很多的机会出现。因为大概率来讲，不是说一个模型可以干所有事情，可能你需要一个比较强的通用模型作为一个底层。开玩笑说，模型首先得大学毕业，大学毕业才能变成某个领域的工程师；但是如果大学都毕业不了，就很难有工作的价值。所以我觉得垂直领域有很多的机会，可能在大模型领域先要有个基础能力。 雷鸣老师： 大模型不是一定是越大越好，大模型更像是一种技术，互联网时代搜索技术比如Google，百度比较好, 但是随着时间发展 ：.技术越来越好对于落地有多大价值？这里面有个good enough的时候，但是足够好就够了再好了跟我没啥关系，手机屏分辨率达到视网膜分辨率之前，一定程度后意义不大。最后用搜索技术实现核心价值是搜索引擎，他是负责信息服务的，海量、准确、及时，这些需要一直compete技术，核心技术就是生命力。但其他的如Ctrip，Facebook，Amazon也需要技术但不需要特别高的技术。模型中达到一定的水平就够了。比如客服不需要博士后来做，家里的路由器虽然需要计算但是不需要放一个NVIDIA的芯片上去。大模型，随着时间越久，门槛越低。也许今年年底就会出现和ChatGPT差不多的东西，放开用就好。一直争议大模型没必要。 大模型什么地方应该垂直化什么地方不应该垂直化？互联网来看，技术最后是服务产业的，搜索也是信息公司，不是一个技术主要是用来解决问题。医疗，教育，金融，自动驾驶等各个领域里面，在大的产业，凡是可垄断的都是必然是垂直化公司。比如几家大的互联网公司芯片都要自己做。可垄断型产业最后核心技术一定是自己的。大模型可能成为云计算的一个捆绑的SaaS型产品。但这种产品对数百上千的人的公司没法用，哪怕拿到开源模型自己调都很困难，智慧可以像SaaS一样提供给中小企业，但是不是给大企业的。对于餐馆来说是没有必要做大模型。因此，大模型的商业化有两条， 1.吃准一个行业，大模型+行业认知可以解决行业的核心问题, 一统天下，例如Amazon这种巨型企业；2.大模型对数十万家分散的单个餐馆不一定适用，但是做一个用SaaS来服务餐馆行业的大模型是make sense的。认为技术一定是服务需求的，特别的，有时候一些公司擅长技术，成为赢得需求的关键条件的时候，有时候，我们认为是技术型公司，其实还是满足需求的公司。因此，创业的时候to C的话, 有个人产品感应特别好，如果to B的话，一定要有个人了解这个产业，打的进去，了解数据，并且能签单的人做合伙人，这样更容易一些。只靠技术不行，不能把技术神话。给OpenAI的团队一亿美金式的投资创业方向，这种赌AI的方式也是不现实的。即使前面ChatGPT再神奇，后面落地也会遇到挑战。到一定时候一些数据是不被开放的，比如一些东西在引擎上搜索不到一些垄断的大公司的数据，类似国内头条和Tik Tok。 耿欣旸老师： 作为学术研究人员，从技术和开源社区的角度看，目前来看OpenAI有垄断通用大模型的趋势, 相对于开源社区以及Google Bard的更好。从开源社区角度来看相信未来通用大模型是不会被一两家公司所垄断。通用大模型实现起来的壁垒：1.数据，和传统互联网数据应用起来有区别，传统互联网更多的是用户产生的数据（Google搜索或者youtube点击率），但是OpenAI在推ChatGPT之前是没有任何to consumer的产品的，数据是不会来自于用户。根据OpenAI内部的交流，其也没有用微软内部的一些数据，更多的数据来源于如何消化互联网的数据，抓取互联网的知识应用到他们的大模型中，以及通过人工团队标注的数据，这更类似于开源社区做人工智能研究的数据。虽然开源社区算力不足，但是有一点擅长--做数据集，看到过去人工智能几次比较大的进步很多都依靠开源社区的数据集。像最早深度学习爆发，很大程度来自斯坦福大学李飞飞教授创造出来的非常大的ImageNet数据集，这样才让多伦多的Geoffrey Hinton才创造出深度学习模型，这样才超过传统模型；另外，像Stable Diffusion近期这么火，是来源于欧洲的LAION团队，LAION 400M的图像和文字数据集。我相信数据集在开源社区不久将来也会赶上。 人工智能过去十年内，内部的技术经历了很多次的范式转移，ChatGPT model五年之前是不存在的，GPT模型是被证实比较好是在2020年OpenAI发布论文，展示出效果非常好。现在虽然看到OpenAI的技术积累很深刻，但是再过五年，OpenAI可能比较难转换成转折点之后的技术。将来也会有其他范式转移，有新的研究员打破OpenAI。认为未来通用大模型不会被垄断，因为会不断变化。 AI版李志飞： ChatGPT开启了AGI时代。AGI系统可以像人类一样掌握语言，知识，数学，逻辑推理以及解决复杂问题的规划能力，目前AGI技术成熟的流派有三个：1.Deepmind为代表的强化学习派；2. 以Yann LeCun为代表的世界or事件模型派 ；3. 以OpenAI为代表的Self-supervision for reinforcement learning (SSL-RL)派。OpenAI的做法是，用最简单的模型去预测下一个zizhu，只要模型足够大，足够深，就能够实现AGI。目前来看大模型是通向agi最靠谱的方式。如何定义大模型，首先，大模型不仅仅是大，早在2007年， Google translate的语言参数就达到了3000亿，但，那时候的大模型只是基于文本里面的， 过去的大模型是对互联网文本的表层建模，只能往前看6个词，只能做一些特定的任务，主要用于看看哪些句子符合目标语言 习惯，并不具备泛化任务的能力；其次，大模型是序列模型，以GPT为代表的大模型起源于文本，文本是简单线性序列，从这个角度来说，大模型本身是序列模型，而语言序列是一种非常简单的序列，因为它是线性的的。如果模型预测的不是一个文本，而是预测与文本对应的一个语法树，或者一个语义依赖度，会比文本序列更加复杂，因为这些数和图由连语言点之间的多个连接组成，
所以，未来很多复杂序列可以通过比序列模型更加通用的结构模型来建模，从这个角度去看，未来大模型不仅可以预测文本序列，还可以预测蛋白质结构，还能做核聚变状态转移的预测任务，有极大的应用前景。在此，很多人认为现在的大模型只是语言模型，只是对文本的建模，但事实上，大模型依赖的互联网是世界知识的映射，因此它是一个世界认知模型。比如现在的GPT4不仅仅是生成文本，其模型已经具备了知识、逻辑、推理、多任务等非语言的能力。哲学家维特根斯坦认为，语言是思维的边界（创世之力注：也许ChatGPT的哲学基础，维特根斯坦思想，语言的边界就是思想的边界：为什么是语言大模型（LLM）, 如果我们搞定了语言大模型，那就等于获得了人脑大部分的知识），大模型是对语言的建模，如果将大模型看成是一个认知模型，大模型具有无限想象空间。2022年，AIGC应用爆发，我们重启大模型。前几天，我们发布了自研大模型序列猴子，为什么会叫序列猴子呢？法国数学家埃米尔·博雷尔，在20世纪初提出过一个定理：加入一只猴子，随机的敲打打字机，只要给他无限时间，他一定能打出莎士比亚的哈姆雷特，这一定理阐述了概率的同一性，提出的序列猴子定理，喂给机器猴子海量的文本序列，然后通过大规模算力训练他，最终就能训练出拥有智能的猴子。序列猴子以语言能力核心体系涵盖了知识、对话、数学、逻辑、推理、规划多个维度。 讨论2：哪些行业特征，使他们更容易受益于AI或者AGI技术，更适应AI的发展？企业应该如何调整他们的组织架构，以便在市场中保持竞争力？ 雷鸣老师： 这个问题我我觉得蛮好的, 就是说AI的能力,其实从大家开始认识到AI是大概2016年吧。那个AlphaGo, 专业领域是2012年论文发布（创世之力注：2012年9月，一篇题为「用深度卷积神经网络进行ImageNet图像分类」的论文，让此前沉寂多年的人工智能领域热度骤起。）；时间不久，能力在不断的迭代。我们说很多时候我们的创业是说需求还在，然后的话只是你技术到不同时候能解决不一样的问题解决不够好，大家看看觉得说不好用然后就不用。举个例子，我们05年做音频，做酷我音乐盒，其实你有没有发现，05年基本上国内的什么优酷土豆，美国的YouTube、Netflix转型，都是这个05年左右的前后两三年的事情。为什么，就是技术ready，然后呢以前的流媒体的话呢，窄带上根本传不动，所以你做也是白做，用户体验太差。但是呢，05年之后宽带入户大几兆左右吧，500K到一兆，稍微压缩一下就可以用了，可以用这, 就是真正的起点。我们做东西的话呢，不是理想主义还是要判断现阶段的技术大体上，或者说一年之后的技术大体上，用在什么地方，能达到足够好的用户体验，足够好啊这个非常重要。回来看今天的AIGC, 或者这个到底什么地方还不错，其实整体来讲我们用ChatGPT也好，GPT4也好，我个人认为的话呢，就是说他在以这，文本输入输出的啊，这种交流啊，问答这些方面能力已经达到了一个，基本达到一个成年人的能力，其实比一个成年人要好一点，我们就说，我们测试出来的结果叫做ChatGPT，基本上是无所不知,我们要再加一个限制，基本上在任何一个领域呢, 我叫，内外行人眼里的内行，内行人眼里的外行，大概就这么一个水平对吧，所以刚才也提到了，解决专业问题你可能还不能找他，因为他是内行眼里的外行，但是呢你糊弄一下外行是没有问题的，或者有些问题本来就没有内行这一说，你比如说一个订餐，啥叫内行啥叫外行，对吧，所以这种问题是没有任何问题的，所以呢，我大体上是这样认为，就是现在来看呢，基本上初级编辑啊啊客服啊啊，甚至在教育里边的这个，低龄儿童的一些简单问题的辅导啊，我觉得都好像没有任何问题了啊。所以呢我们再定义一下基本上是这样，就是说他的能力是一个啊正常的人的，经过一定教育的一个通用的能力，是已经具备了，所以你就想想，这么一个人在哪能找到工作，然后你就可以把他按到那，我大概说的能理解啊。所以你想一个大学毕业生，你到一个地方当个初级文秘可以，那他就可以，你去接客服电话他绝对可以对吧，嗯你去辅导个小孩也可以啊，那他就可以，就看你怎么找到用户，怎么做的让用户满意啊大概，就是这样。所以呢他对全世界的颠覆作用，现在到底有多强，其实还是要看我们刚才说，这种能力能找到多少工作，对吧，那这些工作可能我认为在未来的，几年里面，会迅速的被抹掉，或者被SaaS抹掉，或者就是一家公司自己做，把别人给击垮啊。那，其实在general能力上就是我们说强AI我们暂不说啊，那就是说做一些技能性劳动啊，你认为客服啊也是技能性劳动，可能就是你有general能力，还需要简单的去培训一下啊，然后呢那还有两个常识，我我把这个叫认知常识，或者语言常识吧，现在这个做到了，原来没有想到那个，竟然第一个被替代了，竟然是低端白领工作，你想过没有。 那再往下的话呢，就是说还有两个常识能力，我认为未来几年会出来，然后我正在看一个，就是我把它叫做叠加视觉的常识，现在常识没有视觉你注意对吧，比如说，现在自动驾驶为什么做了这么多年，一直都不能够非常好的上路？对我认为这个方法本身是有问题，就像自然语言以前，阿里啊什么，甚至谷歌把自己所有的数据都上去训，那个模型都训不出来对吧，谷歌那次Demo的时候，好像后面说后面还是有人吧，那就是Medo一个客服定个东西的对吧，所以，为什么我认为是这里面是有问题的，过去的方法的话呢，你一直训一直训，训了一个呢，它是一个我们叫没有常识的一个模型，就没有常识使得, 他最大的问题就是他不能针对，开放性环境。因为客服是个开放性环境，不知道每个人会说什么对吧。封闭性场景的AI落地已经很多了，比如说人脸识别放在门口，因为门口的光照啊，什么都是固定的对吧。你像海关的时候他会光照是固定的，还让你站在固定的位置，画了两个蛋，红的脚印对吧，然后上面还专门画个脸，你要凑差不多才行，这就叫把变量全控制住了你知道吧，他能落地。那光一调对吧，那我戴个墨镜弄个啥他马上就挂啊。所以就是说这个呢，就是他没有常识支撑的东西，落地是很难的。有了常识之后就不一样，很多人说我们学开车，其实学大50-100小时就可以了对吧，那AI现在都学了多少小时了，都试着开了多长的路为什么还不行呢？是因为我们是用常识在开车的，一定要注意这点，我们学那50-100个小时，也不是为了学习决策，是为了学手眼协调，你说有说的话对吧。你是因为你知道该刹车，就你踩到油门上了对吧，啊你这时候一乱，这个方向盘不知道该拐多少度对吧，其实你要用嘴开车，我觉得你学3小时可能就行了。你说我说对不对啊，你自己想想吧，对所以大概就是这样，就是其实我们的整个，视觉和决策是是没有那么多，我没有常识在开车，因为很多东西我们都知道，一个东西转过，来我要再踩刹车对吧，红灯啊我都知道了。所以这里的话我想说呢，啊正驾驶后面的巨大突破，可能跟视觉和这个认知的常识，系统的训练，就很快就跨过走大模型了，反正我来我这是一个预测啊，但也许是错的，对但是我们可以看几年试一试啊，这是一个就有世界，常识之后呢又会替代很多的工作，就是只要没有操作复杂度的工作，基本都可以被取代了，至于是哪些工作你们想，比如产线里边的啊，这个不是精确操作的工作，那个，苹果生产线那个插那个线还不太行，因为那个手很精细对吧，手术不可以对吧，但是一些非常粗的那种，什么推一下拉一下按一下按钮的，这些都没了啊，然后整个的什么安防啊，巡检啊这些都都可以被替掉。最后一项常识我认为是，运动和操作啊，那那这块呢可能会更晚一点，其实他蛮简单的，但是他晚是因为说呢，他要跟硬件协同。现在的那个运动和操作的硬件，他那个控制的变量太少，简单说他就几个轴吗对吧，然后那个轴的速度啊，转的角度，为什么这么少，是因为我们要写程序去控制的，如果你控制的时候，任何一个动作都需要改1万个变量，我估计这工程师直接跳楼了你知道吧，所以我控制一个动作，大家改50个变量还可以，然后我就拼命的编程序，结果编的程序是固定的，你要知道啊，但是你要对待开放环境，所以我说呢一开放环境你就傻脸了，这也是我们看到波士顿动力的大狗，天天表演，你在街上没见过吧，对吧但是现在一些工厂里可以用了，因为工厂里是封闭环境，我再强调一下，工厂里那个地面是平的，摩擦力是固定的，所有东西都是固定的，它跟产线一样，你把它拉到斯坦福溜溜，对吧他可能这会走的挺好，一会下雨他就摔那再也爬不起来了，对吧，他可能前面是沙土后面是坨狗屎，他马上就完蛋了，所以这个就是我说还有，那我们人就不这样，我们的话呢其实是有常识啊，就锻炼常识，所以未来的啊运动和操作的话，这块叠加之后，基本上所有的你工作全部都被替代，这是可能，但是确实替代的会晚一点啊，所以大体上如果看到，刚才这三个东西上来之后，就90%的工作就没了啊，差不多会是这样，所以这种东西呢，会是，对社会是一个非常非常大的颠覆式，所以每一次机会的话呢，我还是认为他跟技术的，这个Readyness是有关系的，你技术不够的时候你做的太早，你做不出来的，真的做不出来，但是自动驾驶呢，在技术不够说也做这么长时间对吧，看似要做出来一直没做出来，为什么能活这么久对吧，一般的公司活不了，就是因为这个市场太大了啊，这个东西，未来的自动驾驶公司，基本上我不觉得会有很多公司啊，因为他也，所有的人工智能，都有一个天然的迭代效应，就是我们叫飞轮效应，互联网的特征效应来源于说呢你是个，连接器对吧，你的用户越多，你的服务提供者越多，服务提供的用户越多，然后两个迭代，迭代最后就跟你这个中间的marketplace没关系了，你知道吧。你只要别做的太烂, 逼着用户要走，用户是不会走的，啊他是不会走的，所以呢你有天然的一个自增益效应啊，那人工智能就是刚才说数据，大家都强调的数据对吧，数据多，private数据不是公开数据，对private数据多，训的模型就好，模型好用户体验好，用户体验好用户多，用户多数据多，这样就拱起来了，以至于说，后进入者在没有private数据的情况下，是无论如何训练出一个跟你一样好的模型，即便他的算法比你好10倍，对不起没办法，所以的话，这是这是人工智能的这个飞轮效应，但是你飞轮转起来的时候，一开始的时候你有一定的数据，那个启动的量是用户可接受的，因为不可接受用户不愿意用，你就积累不了更多的数据嘛，对所以的话呢，就是创业的话，我觉得提前一步是最好的，提前两步很有可能成为先烈，对吧然后呢，但是如果你是足够牛的人，能担得起大旗啊，这个市场也足够大，刚才自动驾驶基本上能支持，一到几个Trillion的公司，这这个公司这个自动驾驶的王者啊，那应该是确定到了他们的，所以这种下那有些人就愿意赌，对吧我就等10年啊，然后我就投几个亿我就等，这是可以，但是如果说达不到这个体量了对吧，几个Billion的公司他们，等不了10年就死了啊。所以大体上这是我想到的一些东西，好吧谢谢。 贾扬清老师: 今天希望跟大家交流这一块，接着刚才的话题啊，同样还是那句话就是现在还很早，所以我觉得我们现在关注的什么，是人对吧，就是来去，对创业对创业者他是不是具备，比如说，一个对AI本身比较长时间的理解，所谓的AI原住民，然后呢他是不是有比较国际化的视野，因为现在中美的AI，其实还是有很多的发展阶段差距啊。第三就是说是不是，能够尽早开始动起来，因为现在我觉得在一个行业的早期呢，其实找行动或者找有经验的优势啊，因为现在有经验的时候应该是一，然后大部分人都没有经验，就是零一和0的区别是很大的，到了这个比如互联网的后期，其实都是大家经验都很丰富了啊，对于年轻创业者这个机会就比较少，所以我们从一家投人的基金出发呢，我们首先关注的还是，在这个里面创业的年轻人啊，以及在这里面培养的原住民。 然后当然我觉得这最近几个月来讲，其实我们看到了这个，以下的GPT为代表吧，GBT4的能力发生很多的变化，可是我们找了很多的应用场景，所以如果把它简单分类，比如说，想参照这个自动驾驶把它分类的话，我觉得其实短短几个月里面，我们已经看到了三种不同的等级的能力啊，第一个我觉得比如说类似于chatbot，比如说我们人去问他一个问题，其实有很多，比如帮你读PDF的呀，帮你在网络上做summarization，帮你做podcast，或者是视频做总结的这种，我把它统称为叫chatbot，很像L2级别的自动驾驶对吧，就是我人问他个问题还是我来干活，就是他来帮助我提供一些信息做参考，那么第二个阶段呢，他来帮我做很多事情对吧，比如说这个，像对于代表的GitHub
copilot对吧，有人说以后写代码就按tab键，就一直按代码，就差不多就写百分之八九十了啊，这这种就是，这个AI开始take over一些做事情的过程，那我人类呢，我给他一个指示，我来进行一个feedback，比如像mid journey是吧，像这个stable diffusion，这个过程中的话，AI要做的事情是他主要做事情，而我们人类偶尔也做一做事情，做一做微调啊修改啊反馈啊，然后让他这个成长，这是第二，这是横向L3类似copilot的这个，那么最近的几篇很有意思的论文对吧，包括说项目像Auto GPT, VBagi，或者像HLIGPT，或者像reflection这些，然后发现我，们觉得GPT4呢，看到一些用微软化叫做说这个AGI的，这个sparks，这个火星，大家发现他能够对任务进行拆分啊，然后对这个一个主任务拆分成子任务，然后进行规划去寻找对应的工具，然后观察自己做的结果，然后来进行这个，对于接下来做的事情进行调整，哎大家发现这个好像出现了一张叫agent是吧，这个这样的一个过程，那这个可能就变成了说他，人类给他一个初始的目标，他去规划怎么做，他去寻找对应的资源使用对应的工具，观察自己做了什么样，然后去进进行反馈，这个就有点比较偏L4的自动驾驶了，对吧，人还坐车里，但是基本上就他来开了啊。那这个，我们其实看到有很多很有意思的demo，比如说这个AutoGPT，可能很多人都玩过啊，他说这个GitHub，这个star增长最快的项目之一，但现在平台很难有什么真正的用途，因为大家如果真的玩过就会发现，他的想法非常发散啊，可能经常想着想着想没边了，他就缺乏一个边界感，他也可能不太懂得怎么在，有效的步骤的把它收敛掉啊，很有可能他把这段干的很很复杂啊，另外一种就是像比如说ChatGPT的plugin，对吧大家发现，他可以去调动这个外部的这个API，并且呢他是用自然语言去调制API，所以他可以很简单的去完成，很多比较稍微复杂点的任务，所以这个有点像，第三个阶段就是说agent的阶段，那么如果再往前会是什么对吧，我觉得我们直接，从一些这种开源的尝试，比如像Vicuna，我们看到其实在用AI去教AI对吧，比如像Vicuna这样的开源框架，是用GPT4，给这个以LLaMA-based，以alpaca为base的模型，它产生的这个内容去进行打分对吧，然后再进一步的去，不仅是给他这样的一个instruction脱敏的过程的内容，同时还在去打分进行调整，这种AI交互、AI互相沟通，也许那个就更遥远了对吧，但是也有些很雏形的东西，可能把它叫做说，就像L5的这种自动驾驶，就可能就，人在里面可能有越来越Out of the
route，所以首先有不同阶段，那可能我们现在主要还是在 chatbot和copilot的阶段，偶尔大家可能在一些比较highly
specialized的一些task里面，也许可以有一些，类似于这种agent的阶段啊，但是我觉得可能大家想一想我们，目前在哪个阶段，以及我们要做过什么样的事情，所以我觉得这是一种思考的方式， 第二个呢，我觉得要想想看，现在的Generative
AI 有什么优点和缺点，我们做一个事情，任何技术一上来都有很多缺点啊，我们一定要避开他的缺点，多做他的优点啊，比如说第一种是他语言能力很强，吧所以我们看到有很多的应用，比如说像改错啊，summarize这样，这个语法，包括Jasper, copy.ai这种，利用他的语言能力，是一个利用的优势，第二种就是说，胡说八道是优势而不是劣势的时候，对吧因为有的领域，比如说做这种创意的发起啊，比如说像Midjourney这种Stable Diffusion这种，胡说八道是好事，包括说Character.AI也是某种程度胡说八道对吧，那这是一种好事，但如果你要比如在医生啊，这个律师啊这些领域就胡说八道，很危险的时候，可能就不是一开始最容易去适用的，第三种就是通过这个，因为Generative AI，一开始它其实都是一个公开的，一个语料，但是呢，如果你在这里面能够生成很多的，第一是propriate data，第二propriate use information，第三种是propriate human feedback，就是我用的越多，我的用户给的feedback越多，所以我能够越来越去training我的model，去filing
tooling也好，去做一些instruction tooling也好，我觉得这里面会有很多形成壁垒的机会。其实你像现在很多人都问，如果都是大冒险，你做这个hype lifting的事情，那你的壁垒在哪，但是其实这个可以有点像，比如说当Instagram突然刚出来的时候，其实大家都说滤镜对吧，滤镜本身没有什么壁垒，但你的用户在这积累的内容，积累的这个用户关系容易形成壁垒对吧，我们去想，这个应用怎么样能够越做越有用，越做对用户越好，因为这个是我们在思考的新科技的时候，经常会看到很多问题。然后其实我觉得还有一点就是，早期的这种科技创新，在我们看来经常像玩具一样，嗯在这个玩具看来，没什么真实或者说实际商业用途了，底层下可能隐藏了很多，这个很有意思的技术，大家去想，比如说快手在最早期，其实有个技术生成器，对吧今日头条，或者自由调动最开始做内涵段子的，完了，基本上可能像Yahoo一开始就是一个网站导航对吧，就是很多时候这种，不要因为他一上来显得很这个childish，或者显得像一个玩具，不要就去轻视他，因为这个时候可能，第一他可能逐渐逐渐他就，把他的那个底深技术越多越好，他就不再是个玩具了啊，另外一种情况是，他可能做这个玩具的人会越做越好，第二次第三次他就做的不是玩具，所以我觉得，我们其实非常关注，年轻人在这里面的机会， 刚刚还有一个，还有下第二个问题就是说，这个企业组织应该是面对转型对吧，我觉得首先这个，因为在大家在硅谷, <创业者的窘境>，这本书估计很多人都读过啊，就是之所以是个窘境就是因为，每次科技创新都会有大量的incumbent在位公司，他会应对不了这个科技创新，然后他会掉队啊，我觉得这个是一定会发生的，就是大家可以想现，在很多巨头，虽然大家觉得巨头有数据有算力，有很多人才，但是他们一定会逐渐的掉队，在这里面呢，很多时候我觉得需要从这个，他是一把手工程，需要这个，CEO自己真真正的从，颠覆很多内部组织，内部很多人利益啊，我举个例子，比如说Netflix，最开始是做那个mail order的，他是给人寄DVD的，而如果大家还记得最早的那个是干嘛，然后他开始做邮寄DVD，然后后来他就开始做streaming在线模仿，但是一上来这个mail order业务占95%的收入，这个在其这个streaming只占5%，然后他干了什么事呢，他就说以后只有streaming人来参加这个公司的高管会啊，虽然你mail order占95%，但不好意思你你不要来开会啊，就是我就是用这种非常强力的方式去进行改变，其实比如说我最近听说微软内部，现在是微软自己的产品，是算力是不够用的啊，但是要到算力过去支援Open AI，我觉得其实很多时候你会发现，真正变革者需要做很大的牺牲，那很多时候往往中间的middle level manager，是抵制最多的，因为大家工作是最受到威胁的对吧，可能什么呢，那我干这些事我这些人怎么办，说明发现很多公司，其实很难摆脱这样一个创业者的窘境，之后，他这个可能不能适应时代的变化，其实我们觉得很多创业者要注意，巨头其实是一个像火车一样的东西，就是火车它的轨道上行驶啊，如果你在这个铁轨上跟它对抗，那基本没有什么赚对吧，它是无坚不摧的，那火车它很难脱离轨道去行驶，比如说我们看也有这个团队做这个Chat GPT做PPT ，做Excel啊，我觉得这种就属于比较难，因为这个office这几件套，它其实是一个MSFT的一个铁轨对吧，同时它还有OpenAI，所以他去做office copilot的呢，是非常自然的非常轻松的事情，如果巨头只是说，能轻松的把这件事给做了，那你就不要做，因为我们可以想到，所有的巨头大公司中等公司，都会在一年以内，给他的产品先贴一个这个ChatGPT，如果你做的事情跟这个也差不多，那你就要小心了，因为巨头干这个事，是没有什么心理负担的啊，但是你一定说他这件事他原来干不了，比如说大家现在发现，可能搜索引擎，他就面临着说，被一个对话机器人可能取代，他的很多的functionality, 但是搜索引擎就很难直接去转型，但这种事情啊也许是这个，对巨头来讲就很难做了对吧，大家可能发现比如说，像ruby，以前都是做很精准的，去进行图片上的调控，那现在发现Midjourney这种是做发散性的，可能原来就是，他没有一个做这种发散型，brain storming型的产品，那这种时候可能就是，你绕着巨头去打，或者做他看不上的地方啊，所以我觉得这些都是很多，也是互联网时代大家经历过来发现，创业的经验啊，当然具体问题具体分析，在AI时代可能会有很多的，native的APP，就是原来互联网时代，没有的商业模式，或者说这个产品模式，但我觉得有的一些这种创业公司，怎么去大卫挑战歌利亚的经验，可能也是试用的， 程浩老师: 我简单补充两句啊，就是说那个雨森刚才举的这个特别好，就在搜索你这个行业，就是说，我现在个人的使用体验已经是，我的绝大部分搜索是new bing，我的绝大部分都是new bing啊，因为Google反而是非常少数的啊，但是有些需要寻址的时候，我觉得还是个Google啊，但一般问什么什么东西是什么东西，我就直接就是new bing了啊，所以这个其实就比如说你，Google，你用问答替代搜索，那可能意味着你以前很多，搜索就没了啊，然而他未来也可能会在，问答上加一些什么广告的模式啊啊，对吧所以这个可能，也许啊是Google为什么在这个，这个问答上没有ChatGPT，那么激进，嗯没有微软那么激进，反正我就我bing本身也没什么市场份额，可能本身赚100块钱，九十九十块钱都是Google，我只赚1块钱我没什么负担，那我就拼命往前推，这这是一个，还有就是说提到那个，这个补充一个数据，比如说我这次来之前呢，还专门的，跟我们被投企业做了一个小调研啊，我们被投企业有超过一半，都已经在用各种AIGC的工具了啊，用的最普遍的是什么，就是写推广文案，用的最普遍，因为这是所有东西都需要的，其次呢就是那个AI生成图，当然这个，这个大部分都是他们内部用啊，现在也有几个公司已经开始，也是他们做SaaS的已经开始用AIGC在武装他们原有的SaaS产品，他们对外提供服务了啊，所以这个真的是比我们想象的快，但是中国最早一批用这个GPT写文案的是哪类人吗，是出海电商，这帮人呢，通常呢可能学历没那么高，英语水平也不高，但是他要经常跟美国这边对吧，跟安乐通去沟通对吧，客服如果最后用户反馈很不好，他还得去安抚一下给人发个邮件，给人回复一下，基本上都是靠那些东西啊，所以就是说AIGC这个领域，对这个创业公司的渗透，其实比我们想象的快。 讨论3：Open AI，现在正在跟很多平台去进行合作，我们看到Open AI不仅是通过startup fund，去投资一些初创企业，他们也在跟大平台的, 像Wolfram Alpha, Instacart展开一些合作，通过plugin 的形式，那么想想听在座的各位嘉宾，我们探讨一下，就是在中国的市场，有哪些迹象可以判断，大模型公司会从算力之战，资本之战，进入生态之战的这个阶段，大概什么时候会发生这样的情况，生态战中呢又有什么样的新的策略？ 程浩老师: 第一点，BAT任何一个公司，步骤其实很清晰的。他如果这个做这个大模型，首先第一步要做的，肯定是他武装他自个现有的产品，举个例子很简单，就像百度呢，肯定是先把问答集中在搜索里对吧，阿里呢，肯定是先把这个大语言模型，集成到那个天猫精灵里啊，像字节跳动，肯定是先把这个集成到飞书里头啊，我现在腾讯也一样啊，就是在微信里头集成一个人助理，甚至我觉得这是，全中国互联网最好的场景啊，比百度的这个问答还要更好的场景啊，一定是这样啊，就他肯定得先把他自个的产品武装好啊，因为很简单你自个用舒服了，你才能考虑怎么赋能别人对吧，你自个都没做好你还赋能什么别人呢； 第二点，前些日子，阿里的CEO张勇他们说了，他有两statement，第一个statement，就是说所有阿里的产品都要用大模型来赋能啊，然后第二个就是说，我们很快就会把我们这个能力对所有的行业开放。这个几乎是必然的啊，但是我个人有个观点呢，赋能其实分两种啊，第一种是比较简单的，像这种ChatGPT+PlugIn的方式啊，那这种基本都是2C的，这个的核心是什么，我觉得核心是谁有流量，因为ChatGPT现在他号称有1亿的MAU了，所以他有相当大的Bargain
Power了，所以那些人愿意跟他接对吧。我相信，微信的个人助理一旦推出来之后，我们在以后什么订机票啊这个，送快递，买外卖啊啊，我觉得很有可能，就是通过微信的个人助理，我们就不需要打开滴滴,以前都是滴滴打车订车，这个美团订外卖啊，未来很有可能直接集成到这个跟助理，而且微信这个场景太好了，他又懂你啊对吧，你只要授权一下, 他就能用对吧，但是不授权他也能用啊哈哈，这是中国特色啊，而且微信一旦有个人助理出来之后，这个流量呢，不是问题，那这个生态就更愿意接。但生态跟这个其实也有个博弈对吧，你是滴滴打车，你肯定不希望你的入口变成微信；你是美团，你也不希望外卖的入口变成微信啊，因为你一旦入口变成微信，那意味着美团,那意味着腾讯哪天，不想分发给滴滴打车，可能分发给滴滴打车竞争对手，所以这是在2C方面的一个生态应用。我觉得还有一个比较重要的，是2B方面啊，那2B方面其实跟流量都没关系的啊，但是在2B方面呢，我个人认为，未来应该是开源模型的天下，因为大家知道，就是假设我是一做SaaS的对吧，我有很多这种private data，我有很多的这个行业的Know How，我肯定不希望把我这个东西放到通用模型里头，但是你现在用通用模型也能做,有两种做法,一种是通过Prank, 但是Prank能写的东西太少了，我不总不可能把整个公司的数据库全放，这个不现实；那么第二个，就是用这个GPT的Index, 你用通用GPT的语言能力，但是能够外接一个你私有的支付,举个例子就是一方面就包括行业的Know How，这个是一方面啊，还有一方面就是你们公司的一些信息，举个例子，我假设GPT能够给这个公司的所有人分配工作了，那我起码得知道你们公司的这些人，叫什么名字，邮箱是什么，但是这类信息，不管是这个行业Know How，还是公司的这些private data，公司的通讯录，企业其实都不想给通用模型。大家知道三星那个新闻，就是几个员工，他去问一些问题，结果那个GPT呢，就把prompt就学会了啊，就好像，泄露了他们一些产品的良率的问题，结果导致三星内部很严格的规定，就是说什么情况下才能用GPT（创世之力注：三星被曝因ChatGPT泄露芯片机密，韩媒惊呼数据「原封不动」直传美国，软银已禁止员工使用），个人觉得未来企业服务，是这种开了开源模型天下。现在，有的人也在这个通过，像这个OpenAI，到自己模型，我前几天还专门，给我一个被投企业打电话，我就问他你们现在开始用这个开源模型了吗，他说还没有啊，我说那为什么，其实开源模型从底层能力上，可能已经到了这个GPT 3.5的七八成了吧，大概是这个反馈啊，但是他还没用啊，啊我说为什么没用呢，他说现在呢啊，你用开源模型，你做一次这个instruction还挺贵啊，大概是几千美金，但是几千美金对于大企业来讲，不是问题的，但是对创业公司来讲还有点小贵，所以他现在还是用的这个GPT加index，但是in the long term，这个价格一定会降下来，而这种开源的生态蓬勃发展，我相信这个开源对语言理解能力也会更加接近，GPT 3.5 GPT 4长期来讲，然后再加上这个数据的独有性，我觉得未来在企业服务是开源的，这是我的一些观点。 贾扬清老师: 我和美国都做过这个行业的业务，对这块，我可能没有像几位师兄那么有经验了，就我自己的话，前面几年一直都在阿里云这边，来做这个2B服务，说到了大模型这一块的话呢，我觉得首先，可能就是说是对于大企业来说，我特别同意咱们刚才提到的几点，就是他可能会在自己的产品里面做integration，那比如说像我就说阿里吧，公开的在前面一段时间讲了天猫精灵的，那钉钉的话大家可以看见，比如说在北美的话，Notion AI也有这样一个press
space，来唤起Notion AI，因为它是一个非常自然的Integration一个场景，嗯对于再往前一步，如果说做其他的尤其是大B的企业的话呢，就是我觉得，中间定制化怎么样来跨越这个鸿沟，就会变得越来越重要，这个历史上都一样啊，10年前的时候数据非常的流行，于是大家就开始讲数据中台的故事，我们在对外提供数据中台服务的时候，卖一个数据后端是比较简单的，在上面说我能够帮你来promise你的业务价值，这个时候，我们用8个字来描述这种业务形态的结果，叫做交付一个，投诉一个，因为他本身这个定制是一个非常非常困难的一件事情。我觉得今天大家所看到的一个机会，以前的时候AI的developer，需要有非常强的AI的专家，才能够来做一个模型，用非常贵的成本来做一个，今天尤其是，在中国中国的企业，用一个2万块钱成本的临时工在做的事情，这个鸿沟一直都一直都没法填平，ChatGPT看起来，能够用机器的成本来扛掉人的成本，就是人的开发变得容易，但机器还挺贵的对吧，机器一堆GPU挺贵的，这地方我们的一个assumption是这样，就是人的价格会越来越贵，然后机器的价格会越来越便宜，虽然我们今天说啊，因为Nvidia100贵的发指，但是再过两年肯定会便宜，这是一个非常客观的一个事，就是虽然我们说摩尔定律，他会变得越来越便宜，因此的话，我们觉得说越来越多的东西，off load的到，AI的这个算法让AI的算法当中去，这是一个今天我们看见都有的价值，将来假如说交付的时候，2B交付的时候，不再需要用非常非常贵的人力，去来扛一个本来其实没那么多钱的业务价值，这样的话就是这块才能够涨得起来，怎么做呢，目前我们其实也不是特别的清楚对吧，今天跟各个大厂比如像阿里，像百度像头条等等，大家都手里面有大模型，这大模型都还处于一个像，类似于像ChatGPT一样，可能稍微差一点那么一个，聊天很聊得来，但是让他做一个更加Specific
Job的时候，他有的时候掉链子的概率还比较高，那么一个状态，嗯而且在国内，可能还有一些显而易见的原因，能够提供转接API等这样一些事，然后进一个，再往前说怎么样来填这个沟呢，今天我觉得在北美这块，其实还看到了非常多的，以AutoGPT为代表的，就是说是让一个完全开放的，没有边界的那么一个Chat的系统，变得更加的programable那么一个状态，AutoGPT今年是一个试图通过CHAT的方式来管理CHAT，让它生成一个structured outcome，然后今天早上的时候，我还正好看到另外一个项目，叫做Guardrails AI，比如说我让一个ChatGPT给我生成了一个structure，一个Alpha，他说说sure, give me something，然后前前后后他会啰嗦一句，怎么样把这些啰嗦东西去掉，怎么样保证我的这个输出，他的这个输出，到变成我回头在program在用的时候，是一个structure那么一个东西，所以有一些项目啊等等，开始做这些工具，我觉得eventually的话呢就是，2B还是比较大的一个市场，2C呢嗯我自己不是特别熟，但是我个人的一个感觉是说2C的话，还是谁有流量谁有用户，谁就能够把这些新的，算法再给嵌入进去，就是这个算法在2C端，并不是一个standard product，它是一个feature，在2B的这一块的话，更有可能把AI以及这种平台型的服务，做成一个product，就像以前我说的database，比如像我们说其他各种各样的语音上的PASS的产品里面，这个是我自己看到相对比较大的一个机会。 雷鸣老师 在落地上，我的理解是这样的，尤其是跟跟创业有关的时候，我们看一个新科技落地的时候，我们应不应该去做一个新的东西，尝试成为一个未来很大的公司，我觉得我们把企业的话，还是要重新再梳理一下，因为我们人类需求，大部分都有很多企业在满足，不管你怎么满足的，所以的话这些满足的企业的话呢，他们在最先进技术，就是他这个企业对先进技术的把握能力我们可以把它分成三类，第一类的话就是先进技术，他就是产生先进技术的，或者他有这种能力，比如谷歌,facebook这些，第二类的话呢，是说他是有能力去应用先进技术的，但是他们已经产生先进技术已经没有那么强了，这这也有些企业，比如我们说一些电脑企业软件企业对吧，然后第三类的话就是说他们可能连先进技术使用上，他们都很吃力的，那大部分就传统企业啊，就是说像什么餐厅啊医院啊这些，所以这三类企业的话呢，他们基本上都，就是给我们提供各种服务，那我们创业的时候呢，第一件事情呢，就是我们不要像被已经有垄断型的先进企业拿到的地盘，我们就别去碰了啊，就刚才说像搜索啊像社交啊，像什么网购啊这些东西，历史证明，即便像微软，有一段时间是个沉浮下来了对吧，他互联网一事无成啊，当然现在AI阶段又又开始起来，但是他的操作系统和他的office系列，办公系统依然没有人能碰的了，对，因为你新的抢的时候你抢到他是可以，我们知道，但是你要把他老的拿走就是要他的命，对吧我们谁对于丢失一个自己最强的市场，这个是无法忍的，这忍不了，对所以谷歌的话呢他在搜索，其实搜索你想未来的形态，肯定是对话式的对吧，所以搜索的话，在个人助理这个业务上，应该是现在他的重中之重啊，虽然有人认为能颠覆他，但我认为难度应该是非常大的，对吧很少能看到一个在一线企业，最超一线企业，在自己主营业务上，被别人给直接灭掉啊，这个不是那么容易的啊，这是我的观点，包括我们过去看从移动互联网对吧，互联网到移动互联网也一样，有很多人说什么移动社交移动电商，移动搜索啊，有一段时间什么都很热，说移动要颠覆传统互联网，最后你发现，那各自的原来的老大，都还在那待的好好的啊，但是反而是那些我们说的做的什么，Uber, AirBnB打的是什么样的，他打的是我们的，在技术上第三流的企业，发现了吧，一个是打出车的一个，是打那个hotel的, 两边既散又不懂怎么用技术，所以你打就看你能力多大，他是没办法守的啊，所以基本上来上呢，这是我从另外一个角度的观点，就是说如果你做的时候呢，你占这些tech3类公司的，又有垄断者你向他发起挑战，这是非常难的，这个我觉得尽量不要去去想，除非你你实在天赋异禀啊，自负到堪比神的级别，否则我觉得这个是不划算的，然后第二类企业呢，他们也会用先进技术，你打开核心的地方也会用他们的，差异化是最好的，你像最早的时候这个啊，Oracle和Sap，他们也是做这个企业的SaaS对吧，就是当时做ERP是吧这些东西的，然后呢，那Salesforce其实没有打他们核心市场，salesforce基本上直接过来的话，你做大公司我做小公司好了，所以他就其实是从这个小B做起来的，所以这个时候的话呢哎，那是可以的，就是你打他没有这样的地方，包括中国的拼多多也是，他打淘宝，并不是抢淘宝的主要客户，他是抢了五环外的客户，他起来之后，淘宝的整体的营收是没有下降的，一定要注意这一点，对你要是把别人的收入打下降，这个他会切肤之痛啊，对他会拼了老命的去搞死你的，所以就是这我想说的话呢，去找新市场，然后去打那些软柿子，个就是会更容易一点。 戴雨森老师 未来AI具体有什么应用，其实我觉得是很难预计的，但是我们也可以从互联网和移动互联网这个发展里面去看，那些端倪。就是，比如说当一个新技术出来的时候呢，他往往首先是把这个新瓶装旧酒，比如互联网最开始出来的时候，一些杀手应用，你看这个email对吧，其实就把原有的mail放到这个互联网上叫email，然后门户网站呢，实际上就是把这个已有的music，杂志这些新闻放到网上叫门户网站，就这种会是第一波出来最直接的应用啊，包括现在，其实你发现，很多人都想把已有的业务场景，用AI套一遍壳，或者再做一遍，我觉得这些都很正常啊，这个是一个比较直觉容易想到。 但第二波呢往往就会产生几种分化啊，因为很多人都用了这种新技术，所以会产生一些，只有在这个用户基础上，才会出现的新的商业模式，比如说这个，当大量的信息都上网之后，才会有搜索引擎对吧，因为如果你一开始就搜索引擎，那你没有那么多信息去搜索啊，但是当大量的信息都上了网之后呢，搜索引擎就出现了，搜索引擎是一个，互联网的原生商业模式，就是在这个互联网之前，其实没有什么类似的东西，那么当大量人上网之后呢，就有了social network对吧，就是这也是一个在这，个互联网前时代，你基本上很难做的事情对吧，因为当时人是有地理位置限制的，但后来没有地理位置限制了，我们看到第一种变化就是说，大量的人或者信息，或者原来没有用这个技术的对象对吧，他用了这个技术之后，诞生的原生的技术模式，这个往往是有很大机会，其实我们看到，包括说商家上网之后产生电商对吧，这个其实也是，之前在这个是，这个是当年水泥时代，没有了这个机会啊，这种机会往往是新技术，他的enable的这个非常大的机会，这是一种，第二种就是说，新技术让新的人，这个进入了一个这个新的商业体系循环，比如说这个，像刚才雷鸣老师举了拼多多的例子，就是新的移动互联网上这些人员呢，不去买电商的人，他去进入了这个电商的世界啊，然后带来了新的这个市场啊，对于淘宝来讲，其实他还是在做已有客户的生意啊，当然这些新的用户被带过来，这个可能是在，技术走向进一步成熟的时候，他的使用门槛变得越来越低的时候啊，所以从这个已有的商业模式的，进一步的下沉化，进一步的这个普及化带来的这个机会，然后第三种就是你发现这个新的技术，他会让很多原来这个做不了的事情啊，变得可以做，比如说如果像短视频对吧，那在这个里面，为什么大家都是在做视频，但是在PC里面做长视频对吧，在这个中国移动互联网内做短视频，这是，因为他的设备的功能有设备能够拍，然后适合去消费一个竖屏的视频，这些设备特性所决定的啊，所以在这个时候我们要，注意的商业模式就是被新技术啊，把更大的enable能够去做全新的场景，比如说所有的社交啊，在这个PC时代的移动时代，都非常不一样，因为移动时代多了这个GPS的功能啊，所以当时我们，在这个移动互联网出行叫SOLOMO，就是三个关键词，其实就是Social, Location, Mobile，就是这里面带来就是，这个移动互联网的新特性啊，那我们对于AI的新特性，其实大家可以发现，之前呢大部分的应用，比如说都是去，帮助人把具体的操作变简单啊，但是很少有，直接把这个操作给做了的，因为大家之前觉得可能这个自动化，都是自动化一些简单的，比如像这个体力工作者啊，或者这这种司机的工作，但现在发现白领工作这种复杂的，这种比较混沌的，不能被简单拆分的工作，居然可以用AI做，就是这个新能力带来新机会，所以我觉得在这个里面其实，因为2C的应用里面，寻找这种细致带来的差异化的东西，我觉得会是一个重点，所以这个时候，如果你的商业模式能够被简单的定位成为新瓶装旧酒，这个时候就会比较难受啊，那么，第二个呢我觉得就是商业模式上来讲，中国的商业模式，往往是羊毛出在猪身上，就是中国直接向用户收费包括向企业收费，一般都是挺难的一件事情，所以中国比如说OpenAI，在美国很靠卖这个对ToB端卖API对吧，to C端去卖这个，这个用户的subscription去付费，在中国你发现，我反正听说某些做大模型的公司，可能现在就是十几万，就本地化部署一个哈哈，这个模型还顺带送两台机器，就是真的是非常便宜，然后包括美国的Netflix，可以一直收subscription，但中国爱奇艺，你但凡付费多1块钱的用户就掉给你看，对吧就是这个他，你这个抱怨也罢，这个不爽也罢，他就是这个不同市场的特点，所以中国咱们就多出来，比如说直播带货呀直播打赏呀，嗯，这个就包括这种各种虚拟的道具啊，这样的这种中国特色的就是，非直接收费的这个方式，所以我觉得如果大家回国创业，其实很多时候，可能又重新需要有一个这个叫接地气，的过程。因为在美国，比如做一个SaaS确实很好做，服务意愿很强，大家的retention很好，中国大家第一不付费，第二一年之后你的付费客户死了30%，就非常的难啊，所以，中国和美国很多商业模式不一样，我觉得这个时候呢，其实像之前很多创业的很多经验教训，其实很是值得借鉴的啊，千万不能生搬硬套的，把一个美国市的模式给搬回去，比如说中国大模型，我估计，可能也不一定是靠收API的这个费用，但是在美国这个生意可以做的很大对吧，至于美国共有云这也有特点，从Facebook到阿里，可能会有很多的这个感触，所以我觉得这个时候，其实归根到底是要理解你的用户，理解你的市场啊，技术是一个非常厉害的技术，但是技术本身不是目的，技术是一个手段，他最后实现的还是在YC说的make something，people
want是不是真的解决了用户的需求，解决这一类用户在这个市场的需求，我觉得这个是很重要的，因为现在，我们过去的几次这个技术的浪潮，或者说泡沫啊，像这个Web3, 元宇宙啊，这个包括性的AI其实他都有一个，泡沫产生的都会有，就是说技术是个框，什么都往里面装的一个特点就好，这个其实无所不能，加了区块链就能解决很多问题，加了元宇宙就能解决很多问题，源于这类什么问题都解决，就是这是一种把这个事情的庸俗化，或者说这个叫做说，这个这种概念化啊，实际上真的好的公司，要解决的用户的痛点都是非常明确的，就是你就是有这么一群人，他们有个问题，或者什么需求的都要解决，所以我觉得如果大家去创业去，就或者加一家公司的时候，一定要多想想这个，这个其实是一个常识性问题对吧，就是到底谁要不要付费，谁要他能解决谁的问题，而不要迟迟被这个概念，这个本身去去影响。 耿欣旸老师: 就刚才雷鸣老师也，短暂提到过，就是开源模型与闭源模型，这个performance的差距，一般呢我们总是会认为在工程领域里面，闭源总是会比开源，效果要好一些。在早期的时候，然后呢，但在真实的商业的竞争之中呢，除了performance外，我们还有其他的竞争因素需要去考虑，包括成本啊，可定制性，生态支持，安全性，供应商的依赖等等啊，请问一下杨清老师您对这个问题有没有什么点评？ 贾扬清老师: 我可能观点上会稍微尖锐一点，我一直觉得说模型，作为一个闭源模型来讲，它的保鲜期只有6个月啊，这个在AI这个领域的话，长期以来都是这样的一个状态，从最开始的计算机视觉已经开始了，那更早的时候啊，因为比如说像，各种各样的推荐系统啊什么，其实更多的是数据来作为核心的一个要素，那么比如说从计算机视觉，开始基本上我们会发现说，得益于AI的研究者们，大家的这样一个开放的心态，我们基本上每一个模型里面，任何有的所谓叫secrets，因为整个社区大家都在开会嘛，都在互相聊嘛，都是进入圈子的，所以非常迅速的在几个月当中，大家就能够开始好起来啊，比如说拿这次的大模型举例子的话，那最开始的时候大家觉得说，ChatGPT是一个非常难以企及的那么一个距离，甚至是，我们做成一个还能够聊一点天的这样的，一个模型都可能非常的麻烦，然后迅速的Facebook LLaMA了出来，然后呢后面我们说，这里有一系列的以这一类动物命名的，都出来了，是吧，Alpaca Vicuna（创世之力注：分别是大羊驼、斯坦福羊驼、小羊驼模型）等等这样一个模型，而且他们的效果在不断的提升，他们的背后的算法也在不断的迭代，不是说是说一揽子训练一把，也有这些方法出来了，那么包括很多的企业，很多公司，其实也逐渐的开始做开源的动作，在硅谷有就有一家大家都非常赞赏的那么一个硬件公司，叫做Cerebras
Systems（创世之力注：硅谷AI芯片公司Cerebras
Systems发布7款类似于GPT的大语言模型。除了发布开源大模型外，展现了一条不用GPU、不接OpenAI接口也能实现“大模型自由”的道路）。他们在芯片这个里面搞什么，独辟西径做一个超大的芯片，来做大规模的训练的，他们最近也搞一Cerebras的一个GPT的模型，就算像Bloomberg这样的，我们觉得说他应该是一个传统的，更加做媒体，但是同时代表科技味道，他们也开始做大模型，于是也就是说，大模型的这个门槛其实降低了，得益于非常多的开源的一个工作，那么这时候就会有这样的问题，假如说对吧，就是说我自己不做闭源大模型啊，我稍微specific下，作为一个Startup，就说需要想这样的问题，我花了很大的大价钱，做了一闭源大模型出来玩，我有两种方式对吧，一种把它开源，那这个时候就说是I bet，I have other ways to get my cost back，要不就说通过开源的社区，来给我的另外一个和互补的产品带货，这是一个很典型的开源的一个打法，比如比如像Conflent，嗯包括像Flink，我当时在阿里的时候支持一个团队，我们都在做这样的事情，另外一种方式是我持续的闭源，但是我得比所有的人都要持续的保持6个月以上，这个是一个非常需要有信心的事情，我自以为我没有像OpenAI，那么的在算法上面那么牛的，我没法持续的保持比所有的人都超前6个月，这个地方可能会有一两个super player，在那，OpenAI我觉得应该是一个, 比如像Instructive AI，大家觉得说，他今天有可能成为一个OpenAI竞品，但是大量的那里，我觉得90%的这个市场里面，是要通过开源的模型来实现的，开源的模型加上可能闭源的数据，比如说像企业里面的企业自己的文档，各种各样的这个企业的交流，内容啊等等，通过这样一种方式来，达成一个相对比较好的一个协作吧，因此，我觉得开源还是一个没法阻挡的洪流，这是我自己的观点。 耿欣旸老师: 我非常赞同扬清老师的观点，我也就稍微补充一点，因为我之前也就是做了其中一个，移动命名的模型（创世之力注：UC伯克利发布对话模型 Koala，让'羊驼'模型更强大！耿欣旸老师是第一作者），我们其实也是基于这个Facebook这放出来的这个Facebook
LLaMA模型，去做的这种微调，实际上，我们也是觉得，好像OpenAI说他这个ChatGPT效果非常好，然后，开源世界没有任何可以跟他比的模型，我们当时也觉得差距很远，但是Facebook LLaMA放出来，给了我们很大的信心，然后我们自己做了以后会发现，就说其实可能，做的时候，发现差距并没有我们想象的那么大，就说我们用少量的数据，然后加上我们自己一点点上进去微调之后，发现也可以实现，就是说不能说有ChatGPT那么好的性能吧，可能也实现50%的这种性能的效果，所以说我觉得可能就是说，大家可能开始为这个ChatGPT这个性能和震惊的，其实可能差距没有那么大，然后呢对于大模型呢，这个开源方面我想补充一点，就是说它的这个壁垒，实际上是由主要是两方面的，相对于传统的这种开源软件行业，传统的开源软件行业，更多的是一个Know How的壁垒，比如说如果我知道这个软件该怎么做，那我找工程师，一定就能实现出来这个开源软件。 大模型方面呢，它有两个壁垒，一个是数据，另外一个是算力，因为就是，虽然开发者可以我可以自己志愿，我自己花自己的业余时间去做开发，但是呢我依然需要有人给我设计数据，依然需要，就是花大量的钱去租用这个算力，去训练这个模型，但是呢，我们看到这两个壁垒在渐渐的缩小，其中算力方面最大的，壁垒实际上来自于模型的预训练方面，因为在模型的最后的指定微调阶段，它只是占用可能只要1%的算例，真正绝大多数99%的算例，都放在模型的预训练方面，但是所幸的是呢，模型的预训练方面，并不是说每一个开源模型项目，都必须从头开始，我们可以基于已有的预训练的模型，或者说整个社区，可能大家可以合作，只需要一两个开源的好的，这种基础模型就够了，那Facebook LLaMA呢，其实也就是说实现了这一点吧，但是呢，很可惜的一点是Facebook
LLaMA license禁止了大家做商用，就只能做学术研究使用，那同样呢我们又看到很多其他的公司，像扬清老师刚才说的Cerebras啊，包括最近这个Bloomberg其他的公司也开始在训练这样的模型，包括Stability最近也出了Stable啊，就是想把这一方面补上，我相信大概在可能2到3个月之后，这方面就可以基本上可以填补很多了， 第二个壁垒实际上是来自于这种数据，数据呢更多的是这种，这种指定微调的这种专有数据，像预训练的数据，他都是来自于互联网的，也就说大家都可以收集，那这种指定微调这种专有的数据呢，我觉得就说在这种尤其是更多的是产生于他这种具体的，部署之后的这个业务过程中，这种数据呢，我觉得就可以由各个创业者，在自己公司里面，相当于来说做一些收集，而且这样的数据通常不需要收集特别多就能够得到非常好的效果，前提是有一个好的开源，这种基础模型的情况下，所以说呢，我觉得我们作开源社区呢，就是更多的，我觉得一方面关注，就是说把这个基础的，这种预训练的模型的这个性能给推上去，另一方面呢把框架，把微调的框架变得越来越容易使用，以使得这种downstream这些创业人员能够很好的利用我们的这种开源模型的这种结果，去做相当于一些具体的业务， 讨论4：ChatGPT，也有一个对现场嘉宾的问题，我们一起来看一下，尊敬的各位嘉宾你们好，作为一款人工智能，我非常荣幸能在此场合向你们，提出一个关心的问题，我的问题是，随着人工智能技术的不断发展，如何在确保，人工智能，为人类社会带来积极影响的同时，充分防患和应对由此产生的道德法律，以及安全风险，以实现人工智能和谐共生? 程浩老师: 我觉得这个是个非常好，但是也是极其重要的问题啊，事实上据我所知啊就OpenAI,就说问他为什么这个东西啊，他说为什么不能开源，他说他们在这个问题上，做了非常深刻的思考，但是一方面的原因呢当然是商业利益的，微软投了10个亿100个亿啊，我都开源怎么赚钱的啊，对吧说到这个，说句实话，我现在都不知Stability
AI，他到底怎么赚钱呢; 还有第二点我觉得说的非常有道理啊，就说他觉得这方面的伦理问题也好，合规问题，好一堆问题，我在这个事上还没有研究清楚的时候，我把它开了源了，我觉得这个是一个实实在在的问题，我其实也想请教欣旸，就是你们做这种开源模型的话，你们怎么考虑这个问题，就是说拿着东西做恶的问题，因为大家用这个ChatGPT有OpenAI替我们考虑这个问题，但是你做开源模型，这个我认为是个很重要的issue，但是我不知道这个解法是什么啊，我觉得你们做开源模型，你们应该多多少少，做过一些这方面的思考吧？ 耿欣旸老师: 这里我想引用那个Yann LeCun老师一个观点，他因为在网上Twitter上也非常的active，他认为我们应该regulate这个模型的部署和应用而不是regulate这种模型的研发，因为具体的这种危害，实际上，是来自于一些部署和应用过程中，在研发过程中可能非常难以预料到，他到底能够会被部署的哪些行业，比如说为哪些，甚至为哪些作恶的行业赋能，比如说一个非常典型的案例就是这个，如果我们有一个很好的模型，我可以把它部署在这个诈骗行业，专门为诈骗行业负责。所以说就是作为社区的开源模型，这种开发者呢，我觉得，一方面我们要在就是在训练的时候，给模型里面通过加入一些数据啊，或者一些数据过滤，使能模型就是尽量，削弱一些，就说明显的不道德行为这种能力吧，虽然这种就是说，因为模型它本身因为是一个黑箱，没法完全的消除这一样的能力，只能说尽量的消弱吧，然后去做一些这种叫做calibration这样的训练，使得他能够尽量符合我们的价值观，然后另一方面呢，我觉得应该就是从比如说，不管是政府也是还是行业的这个角度，应该对模型的部署，以及一些这种应用，用行业做出一些规范，比如说技术性的规定啊一些regulation啊，甚至是一些行业自发的一种这种规范，一方面呢，可以通过这种制定条例的方式，这个人为的去规范，另一方面呢我觉得像最近，像Stanford，像Princeton，他们也提出了，比如说，最近用AI来判断一些文字的生成，他到底是不是AI生成的，相当于从技术的手段，去给这种不好的应用啊，做一些鉴别，或者是做一些防范。 程浩老师: 必须我听讲跟这个Web3的监管一样，就是说协议本身不应该被这种监管啊，但是你这个run的这个公司，可以被这种监管啊，包括像web2里，你说你做邮箱对吧，你SMTP 协议这不应该被监管，但是你机位可以被监管啊，大模型我不监管，但是你如果用大模型作恶，会监管你，但是从我们做大模型本身角度来讲，我们可能也有些这个东西要做，使得他别人就尽可能的降低，这种作恶的可能性。 耿欣旸老师: 那个咱们刚才提到诈骗这个领域，是AIGC最有最有用的一个领域啊，我刚前一段时间的时候，诈骗这个游戏挺有意思的，对他来说，你知道他也要降成本，谁都要降成本，哈哈，
哈这个他降成本怎么降呢，你看他最开始给你打电话的时候，他发现说哎，很多时候人最开始听见一个robot call，他就上来就直接给你报一个东西，看你就挂了，于是呢他就用各种各样的方式说哎哎，还在吗哎哎怎么样让你和他engage，因此的话呢就用AIGC的方法，他可以把他这一块engage的成本降低回来，然后呢，我前两天在网上看见有一个哥们，搞了一个，他并不一定用ChatGPT，但是用ChatBot的一种方式搞另外一事，他说你看你不是那么搞我吗，我也能搞你，你把一个电话电话过来了，我就跟你聊着，对吧，对于他来说他最高的成本是什么，他最高的成本是那个打起来，就是他最开始initial engagement过了之后他把那个电话那边对吧，这个某某些国家吧，有一些人，他在那专门是在那给你打电话，他的成本也是成本的是吧，你耗了他一个小时，他做饭之后，哇靠对面是个ChatBot跟我在那聊，说不对他说他就挂了，开源可以让，这些开源不仅可以让坏人搞得，搞得更牛逼，也可以让好人做到什么，所以我觉得这个一定程度上来说的话，就是It's good in some way，但是我非常强烈的同意，的确就是说有一些比较好的，比较成熟的监管是一个合理的事情，合理的监管呢，因此呢，我觉得就是说有开源的建立方式，能够让更多的人来研究这个模型的机制，研究他的这个能力的边界在什么地方，这个对我们来说实现更好的监管是，很有用的，这是我自己的观点。 然后呢我再说一个我自己的观察，这个观察在美国相对比较敏感，所以我不说我自己的观点，我们在西海岸，西海岸对于控枪是非常严格的，但是西海岸同时又非常advocate，像ChatGPT等这样的基础创新，Isn't that some sort
of conflict，对吧，它都是一个非常powerful的工具，而且if done wrong could do huge damage to people，but in this case we are really strongly opposing done than
supporting ChatGPT，so it's doing no one question，我的感觉是。 过去了几个月，包括那个OPPO Letter要Pose GPT4更大的这样的模型的研发，现在不管是学术界还是企业界其实都，有充分的讨论，一件事，让我非常shocking的地方就在这些，都是highly respective people having
so dividing opinions，包括，2018年获图灵奖的这三位，Yann LeCun，Yoshua Bengio、Geoffrey Hinton，他们三个人都有三个不同的看法，对于大模型的研究，Open AI的head of policy Miles Brundage，他说为什么GPT 4他们觉得可以，给大家可以公众去用它，是因为他们觉得，这个Risk protocol还没有到一个临界点，如果Risk Protocol到一个临界点的话，他们会可能会slow down的development，然后去更多的进行AI Alignment，然后进行更多的这个，这个transparency的这个control， 其实我觉得Risk protocol，就说对于GPT这样的模型来说，他最终输出的是文字对吧，那么最终我们不会说直接把这个文字，就是具体怎么操作这个文字，还是这个人要做出判断，所以说我觉得在这方面来说一个ChatBot，它的这种risk，本质来讲应该还是非常受限的，应该就不可能无限制的增长，因为毕竟也不会说你，没有人任何人会想说，我们说把ChatGPT这种文字，直接比如说连入到某个核电站的控制程序当中去，ChatGPT输入指令就放入这个反应堆里面，那肯定是不可能这么做的，所以说，在现在这种常规的这种部署，方面来想，像我们觉得这种应用来说，带来的Risk其实还是非常少的，但如果，我们说哪一天我们要把这种ChatGPT，或者说其他的AI模型，接入一些非常risk sensitive the application，比如说，比如说核电站的呢，传统的infrastructure这个控制，像这种电力系统啊，像这种交通啊这样的控制，那么我们肯定要做更加这种严谨，或者说更加全面的这种Risk analysis来确保它不会造成非常坏影响的这种风险吧。 戴雨森老师: 我想单独补充一下就是嗯，我觉得现在谈这个AI的风险呢，就是因为每个人有很多自己的，这个看法，就是意见非常不一样啊，但我觉得有一些可能，也是面对基础的风险的，一个常见的一个pattern啊，我觉得第一个就是，一般来说终止研究既无助于防范风险，也不现实啊，因为你只把这个听话的人给监管，但是不听话的人还会继续研究，所以，这而且很多他的危害的可能的方面，你不研究其实也不知道啊，所以我觉得说停止研究，当然后来发现，可能一个mass还要自己要赶上，你先等我6个月，哈哈哈对，我觉得这个停止研究这个事呢，对人的好奇心我觉得也不太现实啊，所以我觉得这个很难真的work，但第二个呢，我觉得就是在真的出一件大事之前，很难大家真正的会去特别的去，关注或者警惕，因为他的利益的诱惑是很大的，那么虽然在这里面有很多人呼吁，这样的安全的措施呢，实际上我认为他最后会是一个responsive，就是出事了，然后才会有这个，对应的这个更多的防范啊，因为现在是说未来，可能说着他还没出事，所以就很多人会先看啊，所以我就是觉得，这里面可能一些标志性的事件，会导致大家更加真正的关注这个事情，包括监管的出台，其实比如Crypto的监管，那也是很多人被Spy了很多很多钱，对吧就包括像FTX啊这个这个，这个Terra啊这些，然后大家美国说那我要监管一下，因为这个太多钱，至少在美国是这个，中国可能是监管里的监管，第三个呢，我觉得现在这个alignment，其实是有很大的这个不确定性的，因为呃，现在等于是少数叫有良心的科研人员，在帮助大家干这个事情，但它本质上可能还是针对比较加州的一群，以这个白人男性为主的价值观的而来，显然可能比如说换一个，这个宗教信仰或者族群，什么就会觉得这个很好offensive啊，所以我觉得这里面，首先alignment是对谁alignment，是吧是不是全人类就是有一个alignment，还是说有不同文明是有不同的alignment，第二就是说，人类的价值观其实有变化很快啊，我记得我在这里读书的时候，08年那Gay Marriage奥巴马是不支持的啊，那现在他肯定支持对吧，就是人类价值观变得非常快，那你AI如果是变得这么重要，那你，是不是这个地方要能够不断的与时俱进啊这个里面我觉得有很多的可能不是一个公司或者一个政府来去做的事情，可能是一个需要向国际组织和国际政府合作的啊，因为就像核武器一样，我们其实也是几大这个常任理事国，有这个核部扩散公约啊，但是核毕竟是一个物理世界的东西，所以他扩散起来难很多，但是这个AI的扩散，他是一个Digital的，所以他扩散可能是很快的，这个时候可能就得未雨绸缪，去做这样的这个研究啊，那么呃再一个呢就是现在的很多监管，其实主要我们第一次玩，说监管应用AI的人嘛，因为不管怎么样我也把他抓起来对吧，啊但是我觉得从现在一些类似agent的尝试呢，让我觉得，很有可能在不久的将来，我们就会面临说，人可能只是开始写了prompt，但是他的过程中，他其实无意间产生了一些，我们先说AI有益的问题啊，因为这个还是有点偏科幻了的，AI有没有意识，但说他也许在完成这个他是无意间产生了很多的这个威胁对吧，那这个时候，也许，比如说阿西莫夫有这个机器人三原则（创世之力注：机器人三定律（英语：Three Laws
of Robotics）是科幻小说家艾萨克·阿西莫夫（Isaac
Asimov）在他的机器人相关作品和其他机器人相关小说中为机器人设定的行为准则，是阿西莫夫除“心理史学”（Psychohistory）外另一个著名的虚构学说，1. 机器人不得伤害人类，或坐视人类受到伤害；2. 机器人必须服从人类命令，除非命令与第一法则发生冲突；3. 在不违背第一或第二法则之下，机器人可以保护自己。），对吧就好像是一个，他在那个科幻宇宙中的三原则，那我们有没有一些，基于AI的这种constitution一样的东西，比如说这个，其实来讲，他是一个constitutional AI，有些宪法对吧，这个宪法要这个管着一下，还有一个3H原则啊，我觉得这这很多这些常识，可能会被一些国家，就是跨国合作的组织，甚至联合国进行这个制定，然后在更加遥远的未来呢，我觉得我们会逐渐面临一个问题，就是人类，如果说比如说AI现在就停在GPT 4这，啊那我们可能还不用特别担心，但是我觉得大概率不会，就大概率他不会，正好恰好我们今天用到的AI，就是最好的，以后也不会了，那么GPT 4，我们知道已经在很多认知task，上已经达到了人类的水平，甚至在一些，这个比如说这个GRE，或者Bar test上，已经达到了最好的人类水平，这样我们第一就有问题，我们怎么衡量AI，AI的智能对吧，因为，这个我们以前所有的测试都是测人的，或者测比人差的AI的机器的，我们从来没有一个测试，是测一个比人更厉害的存在，那种测试都不存在的时候，你怎么去了解他现在的情况，我觉得这是第一个，第二个就是人类从来没有跟一个就是，真正具有某种意义上智能的，生物也好，或者存在去共存过，就一定会产生巨大的社会上的，这个心理上的这样一个大的变化啊，那这个可以，我我认为是可能，人类历史上最重要的一次变化，因为以前全是人类，就在工具端发生变化，现在是人的发生变化对吧，你怎么去共处呢，是不是新的社会学范式变化，这是第二个，第三个就是说所谓的alignment，如果真的AI在很多能力上超越人类，并且我觉得这种超越一旦发生，可能就不是，小超越可能大概率，他不会说比人强10%他比人强十倍，这种大型的超越的时候，那就好像说比如说一个小学生去想要，alignment的一个成年人一样，是否可行，或甚至是一个，这个这个猫猫狗狗想要alignment人类一样，对吧就说你你可以努力，但是你也许根本就做不到啊，所以这种情况下我们是就是，如果说我们，对于AGI有这么一个期待的话，因为我觉得在中国，我觉得大家是比较工具主义，大家比较实用对吧，这个东西给人干活就行了，但是我觉得在美国，其实你想在零几年的时候，关于Singularity的理论就开始越来越多了，对吧我们叫如果接近奇点，奇点之后，那可能就是一个智能大爆炸，可能他是以指数级，不断的快速增长的时候，这个时候我们是否，有提前有任何准备去alignment一个，去监管一个比我们要聪明的东西对吧，那么有人说那我可以拔他插头啊，但完全一个比你聪明10倍的存在，可以轻易的说服你不要拔插头啊，就跟一个小孩跟一个跟一个成年人说，那叔叔往这边走啊，不要不要往那边走，其实可能没有任何意义，所以，我觉得这里面的研究其实很不足够的，在这个这个，我们一看到说AGI spark的时候，我就觉得，从这一方面投资的角度，我们希望他创造很大的价值，但另外一方面，我觉得作为一个有好奇心的个人啊，我觉得其实这里面我确实是觉得，事情比我们想的或者预计的要更加，紧迫且更严重。
|
|
|
