分享

生成式AI快速进化,大语言模型、多模态模型、商业机会或发生这十大变化

 天承办公室 2023-07-12 发布于江苏

'2023年一季度我们做了一个统计,在交流过的100多家生成式AI企业中,涉及底层技术的企业占比是14%,多模型应用的企业占比在57%,语言类应用的企业是29%。'2023世界人工智能大会期间,启明创投携手未尽研究发布报告《生成式AI》报告,启明创投合伙人周志峰说,这组数据到上半年就发生了很大变化,涉及底层技术的企业占比提高到29%,多模态应用的企业占比微降,至44%;语言类应用的企业是27%。

生成式AI快速进化,大语言模型、多模态模型、商业机会或发生这十大变化生成式AI快速进化,大语言模型、多模态模型、商业机会或发生这十大变化

在周志峰看来,竞争促进了创新。与2022年快速涌现出的生产力工具方向的创业公司不同,2023 年,有更多比例的新公司聚焦在底层技术的创新;大模型创业公司也开始分化,在通用大模型创业公司方兴未艾的同时,许多面向医疗、电商、科研、工业、自动驾驶和机器人等特定方向的垂直大模型公司开始出现。

人们很快从生成式人工智能中看到了新的商业生态的出现,看到了一层又一层的技术,如计算、模型和应用;看到了生成的内容,如文、图、视频、代码、3D结构、多模态;也看到了公开数据、垂直数据、合成数据、向量数据,用于大大小小的模型。

“许多从事知识工作的中小企业,已经先用起来再说。”面对这一革命性的技术,所有企业都被卷入。它们节奏不同,介入程度不同,成为新技术浪潮下的守成者、创新者、采纳者。它们的利润率被永久的改变了。

“我们梳理了论文,发现生成式人工智能领域的一个突出特征。”周志峰举例说,全球推荐的十大论文中,生成城市3D、ConvNeXt:卷积神经网络的复兴、涌现、通用智能体等都在其中。

过去半年最重要的研究方向,是破解和理解大模型神秘而又令人兴奋的智能“涌现”。大模型既需要超越对下一个词的预测能力,也需要一个更丰富、更复杂的“慢思考”深层机制,来监督“快思考”预测下一个词的机制。

周志峰表示,那些最好的前沿研究,一定是研究和解决技术规模应用中遇到的问题。研究如何减少幻觉,调教大模型更加准确地输出真实的内容,训练出更强的推理能力;如何更集约地训练模型,降低门槛,推出新产品,让更多的各行各业和消费者都能用上;如何能像人一样,与真实的物理世界互动;如何成为人类复杂工作的助手,设计并帮助执行科学实验;如何影响就业,从而做出政策的响应;如何让人工智能安全和可信。

同时,在政策等层面,中国在迅速推出生成式人工智能的监管办法并征求意见的同时,也在鼓励发展通用人工智能,北京、上海、深圳是最具雄心的第一梯队,均提出了较具雄心的人工智能科研、创新与产业目标。欧盟继续在监管和立法方面领先,一如其5年前率先推出GDPR。美国更在意人工智能技术的领先地位,正在形成以风险管理为原则的监管框架。

生成式AI快速进化,大语言模型、多模态模型、商业机会或发生这十大变化

“长期来看,人才对人工智能未来的影响,超过了算力。”启明创投合伙人周志峰说,中国研究人员发布的论文在数量上已经超过了美国,但金字塔顶端,无论是研究还是创业,美国仍然占据明显的优势。在全球范围内,人工智能研究创新的重心正从高校转移至企业,美国拥有顶尖学者最多的前三大机构,分别是谷歌、微软与Meta,合计招揽了美国顶级学者的30%。中国仍以高校为主,包括清华大学、北京大学、浙江大学等,企业巨头中仅阿里巴巴跻身前10。

展望未来,这份《生成式AI》做出了十个预测,关于大语言模型、多模态模型以及商业机会方面的:

生成式AI快速进化,大语言模型、多模态模型、商业机会或发生这十大变化

大语言模型

2024年中国将出现比肩GPT-4的多语言通用大模型;

超长上下文(Long Context)将引领下一次LLM技术突破;

在出现更有前景的大语言模型之前,为实现垂直领域更好的效果,以下三种方式将共存:

i)在不改变数据分布的情况下,利用更多通用数据进行通用大模型预训练,不特别引入行业数据,

ii)利用行业专属数据微调(Fine-Tuning)通用大模型,

iii)利用行业数据占比更高的数据集进行垂直模型预训练。

多模态模型

当前CLIP + Diffusion的文生图模型是过渡态,未来2年内将出现一体化的模型结构;

下一代Text-to-Image模型将具备更强的可控性,它将结合底层模型能力和前端控制方式,对模型的设计将注重与控制方式的结合;

2025年之前,Video和3D等模态将迎来里程碑式的模型,大幅提高生成效果;

以PALM-E为代表的具身智能(Embodied AI)展现出在机器人的感知、理解和决策等方向上的巨大潜力,但当前训练和可靠性存在较大挑战;

短期内Transformer正成为多个模态的主流网络结构,但压缩整个数字世界的通用方法尚未出现,Transformer并不是人工智能技术的终点。

商业机会

3年内,颠覆式的AI应用的核心驱动力来自于底层模型的创新,两者无法解耦,模型的作用将大于产品设计的作用;

当前生成式AI市场处于技术主导的早期阶段,存在千亿美元市值的平台性企业的机会。

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多