写点什么

SaaS 落地大模型,腾讯企点率先交卷

作者:ToB行业头条
  • 2023-09-12
    北京
  • 本文字数:4295 字

    阅读完需:约 14 分钟

SaaS落地大模型,腾讯企点率先交卷

来源  /   ToB 行业头条  (ID:wwwqifu)  作者 /   樊航


如何让大模型在 ToB 领域发挥其真正的实际价值,在业内已经有了明确方向。

过去半年,几乎所有 ToB AI 应用厂商都在关注真正能够扎进行业、给企业带来生产力跃升的大模型产品。

智能客服和营销分析领域,正是大模型改造落地的核心场景之一。比如智能客服领域,同样基于自然语言,同样以对话服务为主,甚至大模型对话框和客服对话框趋同性,一度被企业认为是最容易落地的场景。

早在今年 6 月,作为 CRM 市场份额位列本土厂商第一、客服赛道国内 TOP1 的腾讯企点也率先对其客服、营销分析两个类别的产品进行迭代升级,其中新一代智能客服、企点分析·AI 助手基于大模型技术迭代带来了明显的产品力提升。

从产品面世至今两个多月,也正值腾讯生态大会召开之际,「ToB 行业头条」再次探访腾讯,并与腾讯云副总裁、腾讯云智能和腾讯企点研发负责人吴永坚进行深入探讨,一个在业内服务超过 16 年的产品如何在大模型的加持之下持续升级?其背后又有哪些细节和战略价值值得学习和思考?


01

从人工智能靠人工 

到人工智能靠大模型


每个产业终端,最终服务的都是人。智能客服作为企业为数不多与客户建立便捷、有效沟通的手段之一,几乎成为每家企业的标配。

但现实情况是,过去几年企业在构建客服应用,解决客户咨询时,采取的逻辑大多是通过大量人工搭建智能客服系统的知识库,再通过问答对生成提供服务,由于知识库问题无法覆盖到用户咨询的所有场景,一度被戏言“企业的智能客服,有多少人工,就有多智能”。

大模型技术的出现带来了转机。过去半年,“生成式”的大模型,给智能客服的应答水平、拟人化服务体验带来巨大提升,几乎让所有人都眼前一亮,也吸引了各大模型厂商、AI 应用开发者纷纷入场。

但不得不注意的是,尽管大语言模型在智能客服领域的应用前景看起来非常乐观,但在现阶段产品化仍不成熟。

「ToB 行业头条」观察到,尽管大模型凭借其出色的技术有望改善过去传统“人工智能靠人工”的窘境,但目前市面上的很多相关产品仍处于 demo 阶段,被冠上“玩具”之名,达不到广泛商用的可能

一面是对新技术的跃跃欲试,一面是客服应用对“准确性”的高要求,两相矛盾之下,更多的企业开始思考,我们在使用大模型来提升智能客服体验时,需要注意哪些点?

对于这个问题,吴永坚给出了明确的解释。首先通用大模型并不是万能钥匙,局限之一就是不能很好地解决垂直行业的问答,因为不同行业不同场景的业务话术、文档、语音等存在很大的差异性,在应用过程中会发现,通用大模型的表现不尽人意,经过企业知识精调的行业大模型整体表现更优。

其次是客服服务,需要保证高度准确性。由大模型生成的内容,不一定全对,或者出现过于冗长的问答。这其中,需要模型本身的良好控制,尽量降低幻觉的生成,同时需要平台提供好用的工具,让运营人员能够低门槛地完成“导入—校验—调优”闭环,从而增强问答准确率。

第三,运用大模型还需要考虑其安全性,避免在与客户沟通过程中,出现与实际不符的内容。

经过几个月的实地验证,对于如何打造一个既懂行业、又懂客户还能懂得分寸的智能客服?腾讯企点给出了答案。


比如,在知识构建时,新一代企点智能客服,重点加强了复杂文档读取能力,在文字文档基础上,增加对图文混排、多列排版等复杂文档接入,通过语义切块,生成向量,以高可用、可扩展向量数据库方案,快速丰富问答组合及内容。同时,提供了企业专属知识“导入-校验-调优”闭环验证的工具,在快速生成问答的基础上,还能让运营人员快速实现调优,提升问答准确率。

这些新板块,都进一步优化了知识库冷启动效率,将冷启动从 7 天起优化至分钟级/小时级,启动准确率提升 30%,降低运维成本,帮助企业进一步降低知识运维成本。

其次,在对话交互时,大模型叠加向量数据库能力,加上搜索引擎对接海量知识,可以实现智能生成拟人化答案,让智能客服应对更复杂的需求。

例如,传统客服无法支持“操作步骤讲解”这类复杂需求,但大模型智能客服可以通过上下文信息补全,基于企业知识库进行问答推理,将复杂问题解决率提高 30%。

在用户体验上,大模型的加持也让腾讯企点智能客服体验更接近“真人客服”。例如,新一代智能客服可以更准确地识别用户情绪,及时给出安抚;分辨出任务型、知识型、闲聊型话题,用聊天的语气、方式解决任务需求。

过去在业务办理过程中,用户一旦插入了“闲聊式”话题,则无法匹配问答,任务就可能被中断。客户需要重新进入客服,再走一遍流程,但在大模型的加持下,智能客服拥有了更强大的意图理解能力,可以用“聊天”的方式提供服务,提升智能客服的业务办理成功率。

只需要简单列举,就可以轻易看出大模型智能客服的价值。过去,在文旅智能客服场景,问讯旅游攻略给出的信息有限,往往只能获取简单的景区介绍。

但通过加入文旅行业垂直场景数据、接入文旅客户 API 接口后,大模型不仅可以为用户制订细致的旅行攻略(比如每天每时每刻的详尽行程、门票费用),提供非常人性化的服务体验(附近酒店、酒店预订网址等),也有机会让智能客服系统,实现服务商业化的闭环。

在「ToB 行业头条」看来,新一代智能客服不应该局限于提高用户体验,还有望用系统打通数据分散现状,使客服与产品研发之间的协作有了深入的可能性。未来,在基于业务规则的机械式问答外,新一代智能客服能适时加入更具体的产品信息,在洞察客户需求的前提下向其精准推送相关商品、服务等。

随着客服体系智能化程度越来越高,客服应用能够串联的业务数据、场景也将越来越多,展现的价值势必水涨船高。


02

企点分析·AI 助手:

要“有用”更要“好用”


腾讯企点的升级并不止于“服”上,作为一款以数智驱动的营销服一体化 SaaS,大模型的加持也为腾讯企点在“营”、“销”领域带来全新变革。

企业常常面临着业务人员只懂业务,却不懂如何做分析的问题。市面上提供了各种敏捷分析的数据工具来尝试解决高门槛问题,但实际效果都不够理想,或者即使是用起来了,却缺乏深入的洞察结论输出。

“大模型的加持,让‘人人拥有数据分析助手’成为现实。用自然语言对话,通过‘对话式’分析也能获得专业数据结论。为此,腾讯企点打造了企点分析·AI 助手这款产品。”腾讯企点营销与分析负责人曾炜表示。

腾讯企点将多年来在营销分析领域的行业经验与数据分析技术积累,结合大模型能力,升级发布了全新的腾讯企点分析·AI 助手。该助手具备数据理解、指标拆解、自然语言查询、逻辑推理和结论提炼五大核心能力,通过强大的“对话式分析”功能,实现了分析产出效率的跨越式提升。

曾炜进一步谈到,在行业大模型的具体实施中,他们拆分了三层框架,第一层是将业务问题拆解,拆解后业务主题会对应到多个分析指标(比如客户询问最近的销量如何,销量便成为主题的关键词,紧接着销量背后的指标可能是订单,这样一层层逐级拆解,更好地理解询问意图)。

第二层是根据指标做量化分析,这一部分需要大模型结合指标体系、数据分析模型以及大数据分析技术,综合得出数据分析结果。

第三层是提炼出洞察结论,甚至是给出策略建议,这部分需要大模型结合更多行业常识和业务背景知识,突破单一数据视角的局限性。

例如,向 AI 助手提问“官网购买页近 7 天内流量变化”,AI 助手可以很快理解业务问题,在思考计算之后,绘制出最近 7 天的变化趋势图,并提炼出数据结论:“指标整体呈现上升趋势,幅度为 42.83%”。

为了形成更深入的洞察,AI 助手还会进一步做归因分析和推理,给出“这个上升趋势受到‘用户跳转来源、用户终端类型、近期优惠政策’的影响”等相关分析结论。

在「ToB 行业头条」看来,腾讯企点分析·AI 助手的做法,让“对话式”分析成为可能,人人都能拥有一个营销数据分析的虚拟助手,将有用的东西变得好用,可以快速击穿营销分析赛道的天花板,而不仅仅是在当下较低渗透率的存量市场角逐。

对整个行业而言,这也有望让营销分析赛道的市场空间变得更为广阔,让数据分析变成一线人员做好业务的利器。


03

SaaS 服务升级

行业大模型是最佳推手


只有产业边界和产业效率得到质的提升,大模型才能证明其实际价值和意义。百模大战仍在持续,锤子越来越多,但大家纷纷拿着锤子找钉子的做法并不值得推崇。

而腾讯企点率先找准“钉子”去设计“锤子”,一颗钉在了智能客服,要用大模型解决传统智能客服的不足,一颗钉在了营销分析,加快企业在营销数据分析场景中的效率。

腾讯企点智能应用的实践,无疑为当下在探索如何将 AI 大模型快速、低成本地应用到具体的业务场景,快速实现产品化、商业化、降本增效的企业开了个好头。

值得注意的是,不论是腾讯企点还是其他内部智能应用升级,背后都离不开腾讯行业大模型的支撑。

比如上述谈到的与客户共创的智能客服场景,就是依托腾讯云 TI 平台内置的文旅大模型,企业加入自身文旅场景数据并经过一系列精调后,快速生产自己的专属模型及智能客服应用,呈现出既懂客服又懂行业的高水平效果。

今年 6 月,腾讯云公布腾讯云行业大模型研发进展,依托腾讯云 TI 平台打造行业大模型精选商店,为客户提供 MaaS(Model-as-a-Service)一站式服务,助力客户构建专属大模型及智能应用。

过去几个月,腾讯云从技术底座、平台能力、智能应用三个维度持续迭代升级 MaaS 能力,其中技术底座方面,除自研混元大模型外,还支撑市面上 20+主流开源大模型,提供从一亿到千亿不同规模的模型,更丰富的模型能力。

在平台能力方面,升级大模型训练、精调工具链,覆盖大模型开发全生命周期,并支持一键部署,支持更高的加速比。

在智能应用方面,腾讯内部广泛的 PaaS、SaaS 产品实践,进一步验证 MaaS 服务的可用性、易用性,提升用户体验,助力生产效率提升。

对于当下的企业而言,一边是新技术对现有技术路线带来的潜在颠覆,一面是需求之下新的应用激发出的市场增长想象空间。如何弥补新技术和需求场景之间的鸿沟,从而突破渗透率的天花板、打开增长空间成为急迫的事。

如何能找到一条“多、快、好、省”的路径?

通过“行业大模型+企业数据精调”方案,腾讯希望能帮助产业伙伴打造适合自己的大模型产品,解决企业应用大模型过程中面临的专业度、准确度、数据安全、成本等诸多挑战。

在这个过程中,腾讯一方面完善大模型工具链,通过具备高性能的大模型精调与部署能力,覆盖大模型开发、应用全生命周期,让客户只需加入自己独有的场景数据,即可在短时间内精调出专属的模型方案。

另一方面,也不断推出像企点这类即插即用的智能应用,方便企业通过接入腾讯升级的 SaaS、PaaS 产品矩阵,快速装备模型能力。

正如腾讯集团高级执行副总裁、云与智慧产业事业群 CEO 汤道生所言,大模型需要基于产业场景,与企业数据结合,才能释放出最大价值,而腾讯将立足于未来,立足于实效,让数字化工具在产业中用起来,用得好。

发布于: 刚刚阅读数: 3
用户头像

还未添加个人签名 2020-07-13 加入

ToB行业头条,关注ToB领域的新产品、新公司、新趋势,专注以原创报道ToB行业的人物、金钱与故事。

评论

发布
暂无评论
SaaS落地大模型,腾讯企点率先交卷_ToB行业头条_InfoQ写作社区