分享

对话慧辰余秉轶:要为AIGC「做终端、做应用」,构建行业中小模型对商用更有效

 明亮公司 2023-07-04 发布于上海

作者:苏打

出品:明亮公司

过去的3个月,是余秉轶在最近3年中感觉“最忙的三个月”。

“虽然AIGC的普及大大提升了社会效率,但过去3个月,我的事情反而更多了。”他笑道,“有种重新找回当年互联网繁盛期的感觉。”

6月28日,HCR慧辰股份在以“AInspiration:AIGC赋能品牌运营与创新”为主题为的发布会中,公布多款针对商业服务的智能化分析产品,遍及消费者洞察、产品创新、数字营销与客户体验管理等诸多场景,以期全面赋能商业运营与产品创新。

在洞察与创新层面,HCR本次推出全新基于AIGC的数智化产品(DataGPT与InnoGPT等),将AIGC相关的文本与图像生成、多语种翻译等能力与业务需求有效融合;数字营销层面,HCR DMengine平台通过AIGC的能力加持,打通自有化MA营销工具,全面提升数字营销内部效率;在客户体验层面,HCR XMfactory则融入了AIGC服务新特性,完成全新功能升级,赋能企业高效数字化转型。

现场,「明亮公司」对话了HCR高级副总裁余秉轶,并请他分享了作为一家成立10年以上、具备丰富行业服务经验和商业数据积累的to B公司,如何在AIGC变革时代借机并借力;以及老牌“数据型”公司该如何在大模型浪潮的裹挟下,确定行之有效的行进路线。

“我们之前做过一个调研,在所有用过类似Chatgpt这种AIGC产品的用户中,感觉满意的比例仅为68%。在行业中,这是一个远低于产品性能平均值的数字。但是,不完美、不满意,恰恰是我们的机会。”

他坦言,尽管目前中国的大模型已经成百上千地涌现,但展望未来,真正能够留下来的可能并不多。而与势头正盛的大模型相比,“面向行业、能够真正解决企业需求痛点的中模型和小模型,将是处于中间层和应用层的公司通过AIGC实现巨大变革的最佳机遇。”

天眼查App显示,北京慧辰资道资讯股份有限公司(简称:HCR慧辰)成立于2008年,于2020年7月16日A股科创板挂牌上市,被称为“科创板数据分析领域首家上市公司”。

以下为「明亮公司」与余秉轶的对话(有删节)

Q:明亮公司

A:余秉轶 HCR高级副总裁

数据型公司能否「重获春天」?

在构建垂直行业AIGC应用方面,HCR慧辰股份CTO马亮博士在现场分享中透露,HCR的优势在于“长期服务各行业客户中积累了相关行业大量高质量的业务数据;具有AI算法技术团队,可结合业务需求进行算法模型的实际改进;众多业务专家能实现前端Prompt优化与结果评估(进一步用于反馈强化学习)”

Q:作为此次发布的AIGC新成员,Workstation这个产品大约是何时立项的?截至目前的完成度大约为多少?

A:我们从去年开始关注AIGC,但是真正启动是在今年3月初,当时作为一个研发项目成立。最初只搭建起一个简陋的网站,后来,包括Data GPT、AI设计等功能被陆续添加进去,甚至有些按钮是上个礼拜才出现。

完成度已经达到我觉得有信心给客户报价的程度。预计今年年底,这个产品会较现在有非常大的改观。

Q:目前看来,有意向使用我们新产品的客户大约有多少?

A:目前尚在推动中,因为产品从诞生起至今也只有三个月时间,我们也在不断迭代中。但确实有一些客户在接触到demo后,已经明确表示出使用意向。所以我们也借此次发布会公开了报价。

Q:在效率方面,AIGC的加入有哪些明显的提升作用?

A:就我们公司本身而言,在某些特定领域,效率提升肯定5倍不止。

对客户来讲,我们希望能帮助他们解决的一个问题是,针对80%的基础工作,通过技术手段更高效地完成。比如,假设一个项目的完成度为100分,大多数时候,最消耗精力的是从0到80分的基础部分。

而这部分,是我们正在提供并希望用AI的方式加速提供的目标。以一篇30万字的访谈为例,之前整理和分析需要一周,现在通过我们的Workstation产品只需半小时左右即可完成基本的总结和一些常规分析,大大缩减了耗时。

所以,AI之于人类的意义绝不是替代,而是提升、协助和减负。

Q:所以在应用层面,大客户对我们产品的使用意向会更强一些?

A:各类客户都有,关键看产品的“洞察”功能是否到位。

这里面会牵扯到一个产业链变革的问题。比如,之前我们通过数据分析,能够告诉客户消费者喜欢苹果还是葡萄,但也仅止步于此。AI加入之后,我们不仅可以提供消费者的画像,还可以实现帮助公司进行下一步的规划和设计——消费者喜欢苹果,那我们就共创一个基于苹果这个关键词的的概念和产品设计。

所以,AIGC的加入对于我们这种公司而言,可以真正实现产业链的整合,一是向前端进行行业整合,一是向后端进行服务整合。

Q:之所以能够实现前后端的整合延伸,是否因为数据在当下的模型应用中尤其宝贵,而我们恰好有积累?

A:数据的质量对于模型的进化而言是决定性因素之一。这也是为何中文大数据模型进展比较缓慢的原因之一,因为中文语料数据库的整体质量尚有待提升。

Q:所以目前看来,国内那些多年深耕行业、积累到大量优质客户和行业服务经验的一批公司,是否更有潜力?

A:我认为是的,至少AI/AIGC对我们而言,的确带来一个极佳的机遇。

值得一提的是,大客户资源的多寡,对于模型的构建是个重要变量。通常,大客户的产品本身更出色,触达的消费者更广泛,在各大平台中的表现更好,采购的供应商水平更上乘,所以综合下来,大客户积累得越多,喂给模型的数据便更丰富,反过来也会推动模型变得更好

Q:在AIGC的加持下,目前我们在数据分析、数据洞察和定制化服务方面,公司架构有变化吗?

A:整体架构不会有变动,但我们会将AIGC的工具和能力应用到所有业务模块和终端产品中,实现完整串联和覆盖,通过协同效应提升公司的服务效率和质量。

Q:能否透露一下我们下一步的计划?

A:首先,是把目前的现有的产品和功能继续打磨得更好;其次,专注于打造“杀手级”应用。同时,与公司的技术团队紧密合作,加速训练我们自己的行业的中模型和小模型。

训练自有的中模型和小模型这件事,对于我们本身也是一个技术突破和迭代的好机会。

构筑更有用的自有中小模型

成立15年来,慧辰已在牛奶、酒水、汽车等千行百业沉淀出海量数据。未来,当这些数据变成行业的中模型和小模型后,产品的形态会“更加有用”

Q:看了你分享的很多有趣案例,我在想,大模型来到中国后,于实际应用层面的意义是否在一段时间内会超越技术层面?

A:我是同意这一观点的,毕竟在大模型这件事上,我们是跟随者的角色。就慧辰而言,公司也是多年扎根于行业应用中。未来,我们希望能够在大模型和客户的实际应用场景之间搭起一座桥梁。

这件事不容易的,因为技术从诞生到应用,中间是有个很大gap的。我们曾做过一个关于大模型应用的调研,使用者表示“基本满意”的比例仅为68%,这与一般的产品要求达到的满意度差距很大。所以,很长一段时间内,这个gap需要大量桥梁企业在中间层和服务层去进行疏通。

但我依旧对大模型有两个期待,一是本土产生更强的大模型,一是在transformer架构外趟出一条自己的新技术路线。

Q:所以我们没有计划自己做大模型吗?

A:是的。中国已经有几百上千个大模型了,我们目前的能力还不足以参加这场竞争。

当然,不同的模型有不同的训练方法,比如Chatgpt正在训练多模态版本的迭代,以便具备更多感知和理解力。另外,基于不同行业创造不同于transformer(Open AI技术底层)路线的新模型,提供给语音、视频等细分行业使用,也是一个需求。

其中,有数据、有客户、有行业的公司,完全可以在统一几个大模型的基础上训练属于自己的加强型中模型和小模型。

归根结底,模型的意义应该是真正有用于客户,扎根于行业,否则没有太大商业价值。

Q:但客户的类型千差万别,是否会导致我们自己的模型越建越多?

A:我们确实没有办法给每个客户定制模型,但会努力区分行业。

例如,一个生产纯净水的企业,和一个生产可乐的企业,看起来可能差别很大,但实际要求不会太过悬殊——后者只是多增加一些碳酸饮料的场景而已。所以我们对模型也不需要做很大改动。

Q:目前我们推出的AIGC新产品,是否主要在存量客户中进行推广?效果如何?

A:存量客户是主要推广对象。目前已经有部分客户在试用中,也发生了一些有趣的事。例如,我们产品中此前曾集成过一个“全文写作”的功能,前几天我们觉得太简单就去掉了。但当晚,我们就收到一个客户的投诉,说这个功能对他很有用。

这件事带来的一个启发是,我们总以为技术要更快更高更强,但实际应用中,大量的需求其实都很简单很基础。所以,做好基础功能、解决这些需求,将有更具象、更实际的意义。

Q:最好的技术往往是你可能感知不到的它存在。

A:曾几何时,电很高级、自来水很高级,手机也很高级,但如今,它们都已成为生活的一部分,随处可见。未来,大模型也会变成像互联网一般的基础设施,它提供动能,我们在场景中发掘和匹配应用。

现在你拿起一瓶包装饮用水,会觉得极其自然,但它从地下水变成现在的样子,经历了无数的工业化环节。我们要做的事,就是把天然水变成瓶装水、啤酒、香槟,并将价格从5元降到3元、1元,以更便利的形式给用户提供使用体验。

我经历过拨号上网的时代,2G手机信号很差的时代,所以回想起来,现在的Chatgpt很像当时的互联网。它有些笨拙、有些粗糙,需要很多企业和个人去丰富它,训练它,把它变成如同手机和微信一样的工具,每时每刻都能在日常生活中发挥作用。用户可以随手拿来做翻译、做文案、做创意,每天都想登录使用。

Q:这或许是中国企业更加擅长的事情?把新技术应用化和商业化。

A:所以,目前从技术和市场的结合看,我觉得我们会有一个比较大的机会,去填补这个应用的空白。这个行业经历了上百年的发展,需要有一些变革,而AI技术就是产生变革的一个最大助推力,让我们更有效率,也让我们通过洞察和创新,帮助客户成长和成功。

Q:那么对于AIGC驱动商业创新的部分,未来我们可以有什么期待?

A:好的创新背后,一定会有一个好的洞察。

我任职联合利华时,我们曾针对中国市场开发出一款黑芝麻洗发水,广告画面设计时,特意让演员时从水中出来。这是源于我们的一个洞察——国人对头发的最佳感官不仅是黑,还要亮,黑芝麻会强化黑的概念,水的作用则突出亮。所以这款产品推出后,便迅速从0到占领超过10%的市场份额。

所以,基于AIGC,我们正在提升的一个重要方向是,为客户提供更精准的洞察,帮助他们去产生更好的创意和设计,创造更好的产品,甚至爆品。

绕不开的「保密性」

如今,AIGC通用性大模型与产品服务已应用于众多场景并发挥巨大价值,但针对垂直行业的大量专业应用需求,通用性AIGC大模型仍存在业务深度不足、数据安全合规风险以及易用性不足等问题,这是AIGC应用深入行业TO B服务时所面临的重要挑战

Q:Chatgpt在理解英文方面确实强劲,在中文的语言和语义理解上表现如何?

A:这是个好问题,也是我们使用过程中比较担心的问题之一。

好在,目前来自客户的调研和访谈笔录,绝大多数语料并没有那么高深,更多是一些日常对话,例如“你觉得这款咖啡怎么样”等等。所以使用下来,目前尚未出现问题。这也是我们为何希望构建自有的中小模型,伴随数据洞察的进一步深化,行业模型使用起来会更加流畅。

Q:关于目前大模型使用的满意度问题,我们自身也有体验,可能确实尚未达到“每天想要使用”的这种黏性。

A:因为目前的模型能提供的内容有限,所以新鲜感过后很容易被用户抛弃。而这也是我们做work station这一产品的初衷。

虽然由于刚上线3个月,目前的功能模块还比较简单,但比如在“翻译”这一功能上,我们已经实现10万甚至20万字的深访语音记录,整体转化成文字的效果。

Q:这在业内大约处于什么水平?

A:因为to C的语音转文字需求量没有这么大,5万字以内几乎可以覆盖所有需求。但我们面向的B端客户由于需要进行大量消费者调研和访谈,语音素材体量会非常庞大。对于慧辰而言,我们做任何产品的出发点,都是以客户需求为起点。

另外我们也提供“数据洞察”功能,主要针对营销和设计人员,将文案、创意生成、设计等功能集成在一个产品中。这是个看似很基础的功能,但之前的应用中其实做得并不好。我们希望让更多人先用起来,哪怕只觉得一个功能好用也是有价值的,因为产品会不断迭代

Q:就你主要负责的快消行业而言,对数据洞察的需求有何特点?

A:之所以被称为快速消费,快,是该行业的一个显著特点。

对我们而言,需要发展一些“杀手应用”,即能够精准击穿某一个使用痛点、令用户欲罢不能的“按钮”。有时候,一个产品无需全方位满足用户,只需一个“杀手”键即可。目前,我们已经针对中国企业开发出一个类似的功能,但尚不便透露。

不过,由于我们的客户大多是500强企业,所以私有化部署也是个比较重要的课题,这也是我们目前同步进行的工作。

Q:关于“私有化部署”的议题,是否和当前大模型的保密度不足有关?因为如果全球用户统一调用OpenAI的接口,难免会出现一些数据泄露。

A:是的,不久前某全球头部电子企业曾出现过类似问题,所以安全性开始引发全行业关注。

这也是我们做中小模型的价值和意义所在。如果不可避免地要使用一个大模型,我们只会调用它的底层技术和架构,而客户数据会被放在中小模型并进行私有化布署,这样可以同时保证流畅性和安全性

其好处在于,一方面数据存放的范围可知,不必经历上传到Open AI再返回的过程;另一方面,在此基础上我们可以和客户一起不断训练专属的行业模型,从而令模型越来越懂需求

Q:作为一个在数字服务行业沉浸多年的从业者,你对AIGC的到来是什么感受?

A: 前段时间(美团创始人)王兴曾说,他觉得AIGC是一个“iphone时刻”,我个人觉得,它更像一个“因特网时刻”或者“移动通讯时刻”。

虽然目前在实际应用的结果上,并没有出现“灭霸的响指”般的震动,但我个人是非常激动的。过去三个月可能是我过去三年中最忙的一段时间,我和公司所有人一样,都为AIGC的到来感到振奋。

所以这次发布会绝非“蹭热点、赶时髦”之举,记得Chatgpt刚推出2.5版本时,我们就开始关注AIGC。去年11月份,我在新加坡时,3.0版本推出,但因为一些国内网络和国际网络的断层问题没有办法体验,当时非常着急。直到今年2月份,我们终于可以真正着手进行产品研发。

相信眼下,很多公司正投身AIGC带来的变革中。

而作为中间层或者是应用层的企业,我们今天要做的事情,是如何去铺网线、建宽带、架桥梁,去开发电话、手机这些终端甚至App、小程序等应用,把AIGC这项技术,与每个人的实际业务和生活紧密联系起来,让它成为everyday都能实实在在为企业和个人产生帮助的工具。

    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多