|
发现最近冒出来了许多的AI创业公司，基本上都是直接调用大语言模型的接口去做应用。我觉得这是非常危险的事情，几乎注定要失败。因为这个事情看起来门槛实在是太低了。你能做，他也能做。这样的事情必然内卷，最后必然会成为无利可图的事情。 这个事情可能本身也是行不通的，热闹热闹而已，难以产品化，赚不到钱。因为大语言模型本身还是有很严重的问题。用它去生成知识是可以的，但是用它做问答、做闲聊都是难以满足客户需求的，很多人以为通过训练可以把大语言模型的回答准确率提升上去，但是他们并不懂怎么去训练。以为一个问题多问几次就是训练。以为这样训练，大语言模型的回答正确率就会上升。这是个误解。如果训练这样简单，那chatgpt还需要不断迭代吗？全球有那么多人在训练它。
如果聊聊天儿就能让大模型学到新的知识，那它一定会学到很多乱七八糟的知识。它没有能力分辨用户教它的东西是对的还是错的。OpenAI自己还在探索，他们本身就不成熟。你在他们的基础上去做东西，就好比在沙滩上不打地基去盖高楼一下。幻觉问题他们就处理不了，从底层就处理不了。这是由他们的基因决定的。你要是知道贝叶斯理论你就不会去幻想大语言模型能处理好幻觉问题了。 大语言模型主要的优势来自于生成式AI。但由于它有天生的缺陷，分不清楚真假，分不清楚现实和虚幻，分辨不出是和否的边界，于是它经常会一本正经地胡说八道。它回答的内容经常让用户难以分辨真假，于是用户对它的回答就难以建立起来信任。没有信任就没有了商业价值。这个短板是生成式AI本身是没有办法解决的。想用它去做客服，去替代搜索引擎，去替代一个人去陪伴他人基本不可能。目前业界普遍把大模型一本正经胡说八道这件事情叫“幻觉”。但实际上这个事情和人类的幻觉产生的机制完全不一样。正常情况正常人是不会产生幻觉的。而大语言模型产生幻觉则是正常情况。 那为什么还有人试图做这个事情呢？因为不懂。他们觉得能把一个开源的模型跑起来就是掌握了人工智能技术。这实在是差的有点远。有的人把机器学习和人工智能混为一谈，以为除了机器学习就没有人工智能了。这就是未真正懂人工智能。有的人连自然语言处理是什么都不懂，就去研究大语言模型。这就相当于孩子还没学会走路，就让他上前线去打仗一样。有的人把大语言模型看成科学的终结，看不到它存在的问题。这也是未真正懂人工智能。有的人以为语音识别+语音合成+自然语言处理就是人工智能。他们认为智能家居的语音开关就是人工智能。这也是对人工智能的误解。 没有真正搞懂什么是人工智能就进入这个行业来凑热闹真的很危险。当然不懂的人肯定不会说自己不懂，也不觉得自己不懂，就像我一样。我就觉得我自己是个专家。有一次一位投资人给我科普什么是人工智能。我只好闭嘴。人工智能是当下最难理解的行业。要真正理解它，恐怕需要10年以上的积累。有的投资人看了几篇投资报告就认为自己懂人工智能了，这对科学实在是缺乏敬畏。 我觉得我就是在苦口婆心的劝你，但你可能还是听不进去。 你可能会举出智谱AI、文心一言、通义千问这样的例子来反驳我。我要说的是作为应用大模型的创业者。你和人家完全是两个类型，没有可比性。人家研究大语言模型的底层算法，这个是有价值的。人家可以不成功，因为他们是在做科研。而你只是做应用，在创业。这就完全是两码事。实际上，直接调用大语言模型的接口去做应用这件事情，已经有很多公司放弃了。 |
|
|
