AI 原生企业级 Agent 构建平台具备哪些特性?一篇文章看明白
文/王吉伟
就在 ChatGPT 上线一年后的第一周,谷歌发布了其最强大模型 Gemni,一度被称作 GPT-4 杀手锏,也被视作谷歌挣回面子的“雪耻”之作。
然而没过几天,Gemini 就被曝夸大营销,所谓的碾压 GPT-4 仅是嘴上功夫,通过与 GPT-4 不一致的测试标准混淆跑分,更被嘲讽是在趁 OpenAI 内部动荡搞事情。
紧接着就传出 OpenAI 要在月底发布 GPT-4.5 的消息,更重磅的传闻是 GPT-4 会免费。怕是 OpenAI 早已发现,GPT-4 再不免费用户可能都跑到谷歌了,重点在于不免费的话 GPTs 只能让付费用户使用,这距离其所期望的 GPTs 生态可是差了十万八千里。
所以,GPT Store 发布 -> ChatGPT 免费 -> GPT4.5 发布这个行动路径,大概率会在 OpenAI 成为事实,届时全球用户都将能够应用并创建更多的 GPTs。
GPTs 已经上线了一段时间,只是全球用户对其喜忧参半。作为 Agent 的早期形态,个人用户为之疯狂并想尽办法提升其能力,企业用户却因为其存在的数据安全、功能有限、配套功能不完整等原因,无法将其应用于企业运营。
虽然有些企业已经在内部使用 GPTs 这样的“准 Agent”,但更多企业需要的是能够深度参与企业运营的复杂业务流程操作。此外 GPTs 只能在 OpenAI 的大模型 GPT 之上运行,已经进行私有化部署或者有多模型需求的企业,可能暂时不会考虑 GPTs 这种 Agent 解决方案。
对于广大组织而言,与其应用功能不完整的 GPTs,还不如搭建自己的 Agent 系统,或者通过与企业级 Agent 应用平台合作打造更适合企业使用的 Agent。尤其是在国内市场,企业数字化环境存在大量异构框架和复杂信息系统,更需要兼容能力强且多元化的 Agent 解决方案。
那么,目前市面上有没有这样的 Agent 构建平台呢?恰好最近澜码科技正式发布了 AI 原生企业级 Agent 平台 AskXBOT,可能正是大家想要的解决方案。
其实早在 8 月份 AskXBOT 平台就已曝光,王吉伟频道也在《全球 AI Agent 大盘点,大语言模型创业一定要参考的 60 个 AI 智能体》一文中提到过这个项目。
伴随产品曝光的,还有澜码科技 A 轮融资的信息。当时这款产品还未发布,这个项目就得到 IDG 等知名创投的投资,可谓风光一时无两。
大家可能也会问,到底是一款什么样的产品,能够在这么早期就能吸引知名创投的青睐?
这篇文章,王吉伟频道就为大家揭开 AskXBOT 平台的神秘面纱,并解答很多人关心的 AI 原生企业级 Agent 平台应具备哪些特性这个问题。
从 AskXBOT 平台说起
在早期为数不多的宣传资料中,澜码 AskXBOT 是专门为企业定制研发的“中间层”自动化运营中台,能够为员工打造低代码/无代码的人机交互界面,是为大模型技术与应用场景间搭建起的价值实现之桥。
历时几个月,作为目前为数不多的企业级 Agent 平台,AskXBOT 进化到什么程度了呢?12 月 20 日,澜码科技在《2023 澜码科技产品发布会》上正式对外公布了答案。
澜码科技最新发布的 AskXBOT 平台,是其自主研发基于 LLM 的 Agent 智能体与工作流设计、开发、使用、管理、知识沉淀的一站式平台。
在 AskXBOT 平台上,企业用户可以用对话的方式提出需求,设计、创建和管理 Agent,快速定制企业级 AI 智能体来完成各类任务,提升工作质量的同时降低成本。
可以看到 AskXBOT 不只用于构建 Agent,更涉及到了的 Agent 应用生命周期。这是典型的企业软件系统端到端管理逻辑,也使得其与市面上只能构建与使用的 Agent 平台有了本质区别。
从产品技术架构上来看,该平台包含 Agent 设计器、知识中心、使用端、管理平台四大核心模块。
在 Agent 设计器平台,企业用户可以预置多种 Agent 模版,基于模版快速创建智能会话、知识检索、数据查询、数据分析、任务执行类 Agent。
需要说明的是,AskXBOT 平台预置、封装了多种配置与能力,用户仅需要简单输入、点选,最快 2 分钟就可以高效创建 Agent。标准化的模板动作库可以让企业用户快速根据业务场景构建常用 Agent,可以算是企业级应用的标配性选项,对于企业的高效开发与运营有着重要意义。
标准化虽然通用性强但并不适合所有用户,AskXBOT 同样考虑了广大企业的个性化需求。平台开放了多项配置能力,允许个性化定义,满足企业定制需求和多种使用场景,灵活配置满足企业个性需求。对于定制化及个性化需求较多的 B 端企业而言,这一点还是蛮重要的。
AskXBOT 平台还搭载了工作流设计器,通过提供多种多模态模型集成、常用能力封装、灵活丰富的组件,帮助企业快速定制个性化 AI 工作流。注意这里不只是 Agent,而是包括 Agent 在内的业务流程,这意味着多 Agent 都可以在这里得到串联及管理。
在知识中心,澜码 Agent 可以辅助企业知识治理,配合专家知识数字化沉淀,专家知识赋能 Agent 与工作流,形成良性闭环。
在管理平台上,企业可以查看和管理所有企业内的 Agent 与工作流,统一管理包括大语言模型(LLM,Large language Models)、文生图模型、TTS、ASR 在内的多模态模型。
简单的理解就是,知识中心和管理平台可以让用户更简单地构建及管理更强大的 Agent。
当然看不懂也没关系,王吉伟频道会在下一小节详细阐述。
AI 原生企业级 Agent 新范式
自 AI Agent 被公认为 LLM 落地的主要途径以来,企业服务领域一直在努力探索如何打造企业级 Agent 以助力 B 端用户更好地应用 LLM 实现降本增效。在技术、架构、产品及模式与 LLM 及 Agent 融合发展的过程中,这些厂商逐渐分出两个派系:原始派与原生派。
原始派如 ERP、OA、RPA、BI 等传统企业管理软件厂商在原有产品基础上做加法,通过 API 引入 LLM 或者自研垂直领域模型,基于 AutoGPT、Assistants API(OpenAI 的 Agent 构建解决方案)及开源 Agent 架构将原有企业管理系统升级迭代为 Agent,或者将 Agent 作为其平台服务的一部分。
原生派则直接在 LLM 应用层进行各种应用开发,这些应用从设计之初就充分考虑并利用 AI 技术的优势,打造出具有全新用户体验的应用程序。对原生 AI 应用而言,AI 会存在于 Agent 设计、开发、部署、运营和维护过程之中。用原生应用思维打造的 Agent 构建平台,自然也具备原生应用的全部属性。
原生派更加灵活和轻巧,可以摆脱传统软件架构束缚从 LLM 视角借助全新的技术与框架去构建 AI 智能体,自上而下以更简单的方式去连接人和系统。
在原生派 AskXBOT 身上,王吉伟频道能看到 AI 原生企业级 Agent 构建平台的几个鲜明特点,即自然语言交互、简单创建与编排、灵活配置、复杂流程操作、融合专家知识、易于管理等。
自然语言交互:得益于 LLM 本身的特性,可以让用户更简单地创建 Agent,这将是企业级 Agent 平台的标配。尤其是经过微调与训练后能够准确理解企业用户多场景复杂业务需求的模型,将会带来更进一步的易用性。
简单创建与编排:具备 Agent 模版库,方便用户通过模板快速构建面向各类业务的 Agent,同时具备强大的封装能力,可以将各种配置与能力封装其中,供与用户构建 Agent 时调用。
灵活配置:实现灵活配置与个性化自定义,满足企业用户在非标准业务场景的个性化定制需求。
复杂流程操作:企业级 Agent 平台不只能构建知识问答类 Agent,还能构建可以深度参与能够操作 ERP、CRM 等企业管理系统的复杂业务流程。实现这一点,需要产品既能通过 API 集成各种软件又能基于 RPA、workflow 等通过 UI 自动化连接各种软件,需要丰富的应用工具以增强 Agent 的执行能力。
融合专家知识:把专家知识沉淀并赋能给 Agent 与工作流,任何人都能构建各自领域及业务场景的专业 Agent。用澜码科技创始人 &CEO 周健的观点来说就是,专家知识数字化是 Agent 落地的制胜之匙,专家知识可以增强 Agent 的能力及稳定性。
通过 AskXBOT 构建的 Agent 不只沉淀了专家知识,还可以将过去的代码、RPA、低代码、BI、爬虫、OCR 模型以及其他如文生图、ASR、TTS 等技术全部嵌入其中,由此构成一个强大的既能推理思考又具备超强执行力的专家型 Agent。
易于管理:企业级 Agent 平台不只能够管理与调度 Agent 及各种工作流,还能统一管理各种大语言模型、文生图模型、TTS、ASR 在内的多模态模型,以适应复杂的业务环境。
可以看到,AskXBOT 具备企业级原生 Agent 平台应具备的多个特性。
当前 LLM 仍在高速发展并充满很多不确定性,澜码科技能够在 AI Agent 应用早期阶段就能打造出这种形态的企业级原生 Agent 平台,很是难能可贵。既体现了创业团队对于 AI Agent 的深度理解,也彰显了其对 LLM 未来发展的极高前瞻。
这,应该也是其在 A 轮融资吸引 IDG 资本、联新资本等知名投资机构的重要原因。
说了这么多,AskXBOT 的应用表现如何呢?
已落地的 AskXBOT 应用案例
只是介绍产品特性,大家可能感受不到企业级 Agent 平台的能力。下面,我们来看几个已经落地的应用实例。
案例 1:AskXBOT 赋能某市监局辅助执法
在某市监局日常工作中,维护消费者权益是一项重要职责。消费者诉及的商品质量相关问题,大到商品房小到一瓶水都在业务范围内,其中涉及到大量的法律法规、行业规范、案例解读。想要工作人员熟练操作相关业务,需要大量的长期培训,过程费时费力,且业务效率非常低。
为了解决这个问题,澜码科技以 AskXBOT 平台为该组织打造了法律知识问答 Agent。这款面向法律的 Agent 基于相关法律知识库构建,能够为用户提供多种法律问答 AI 服务。
目前这个 Agent 已沉淀 200 余件现行有效法律目录,支持私有化法律大模型部署,可对相关案例进行分析总结并沉淀相关知识到法律知识库各个任务,包括查询与总结、推理、复杂推理(同类法律法规纵向推理、不同类法律法规横向推理)等,准确率高达 90%以上。
法律知识问答 Agent 极大地提高了该市监局的执法的效率和执法过程中的有法可依,提升了基层人员的执法经验联动效应,并为建立市场监管领域行业模型进行行业赋能的长远目标,奠定了基础。
案例 2:AskXBOT 赋能某人寿保险公司提升代理人销售培训效果
在某人寿保险公司的日常管理中,保险代理人的销售能力提升是最关键的事项,传统的保险代理人销售培训中,受制于传统培训形式的知识传递效果差以及培训成本高的问题,如何将保险销冠的经验传递给普通代理人是保司亟待解决的痛点。
为了解决这个问题,澜码科技以 AskXBOT 平台为该客户分别打造了保险产品营销顾问与销售培训 Agent,这两款 Agent 积累了包括保险行业知识、保险产品卖点、销冠销售技巧等与产品销售密切相关的知识,为代理人在解答保险问题咨询以及提升销售技巧方面提供了全面的协助。
目前澜码科技在寿险销售领域已沉淀了超过 10 万行的寿险产品与销售专家知识,并且支持本地化大模型部署,可以为代理人提供包括寿险行业知识问答、产品卖点介绍、条款解释、客户跟进建议等涵盖销售各个环节的辅助,代理人使用满意度达到 90%。
除了以上两个案例,澜码科技还用 AskXBOT 平台为某大型金融集团构建了保险咨询 Agent,为某美业头部咨询公司构建了美业顾问 Agent,均实现了大幅降本增效。
尤其是澜码 AskXBOT 与桃李中文的合作,仅用 5 周时间就从无到有完成 13 种基础题型的全部 POC(Proof of Concept,针对客户具体应用的验证性测试)验证,可以将 10 个教员 1 年时间出 5 万道题超过百万的成本,压缩到 3 个月内完成,出题效率大幅提升,经营成本更是直线下降。
从这些案例可以看出,作为一款原生企业级 Agent 构建平台,AskXBOT 已经能够真正帮助企业用户构建面向各种业务场景的具备不同功能 Agent。
后记:入口级平台与数据飞轮
虽然 AI Agent 已经成为 LLM 未来发展共识,但当前阶段的 Agent 思潮仍旧混乱:一方面在于大家对 Agent 还没有足够的认知,或者说各自定义的 Agent 有所不同;另一方面则在于尚未出现真正像样的企业级 Agent 产品,更多人还没有想清楚如何去定义 Agent 企业级应用。
目前市面出现的原生 Agent 平台所构建的 Agent 产品,大多还是各类问答机器人,都是“玩具”一样的存在,就连 OpenAI 推出的 GPTs 也只能说是初期阶段的“准 Agent”产品。
所以一些人认为原生 AI 玩家想要打造企业级 Agent 平台很难,且很难下沉到企业运营的底层,因此传统企业管理软件厂商更适合去做企业级 Agent 产品。
从澜码 AskXBOT 这款产品来看,他们不只做出了 AI 原生的企业级 Agent 产品,还做得比较透彻,能够赋能广大企业自上而下的应用 Agent 最大化实现业务流程自动化。这种重新定义的原生企业级 Agent 产品形态,算是为企业服务领域打了一个样,甚至解答了很多创业团队长久以来心中的疑问。
从澜码科技的战略布局及产品形态来看,AskXBOT 很有可能会成为企业服务领域人机交互的入口级平台,它会让更多第三方加入进来,进一步放大澜码产品的通用性,降低使用门槛,让不同模型的 Agent 能够更好地协作,更有效率、更智能地服务好客户。
能做出这样的产品,离不开创始人周健及团队过往在企业服务领域的各种经验、技术、资源及生态等的沉淀与积累,更离不开其对于大语言模型及 AI Agent 的深度认知以及对市场需求的深度洞悉,还在于澜码科技创始之初就是一家“数据飞轮”企业。
他们知道如何使用更多数据训练出更好的模型,吸引并服务更多用户,继而产生更多用户数据用于训练,形成良性循环以让企业实现更好的发展。
OpenAI 创始人山姆·奥特曼(Sam Altman)认为未来只存在三类企业,即大模型企业、数据飞轮企业和 AI 应用企业。而做好数据飞轮的初创公司将会非常成功,制胜法宝则取决于它们能在“数据飞轮”上走多远。
澜码科技正在通过不断积累专家行为数据,并在与专家的互动反馈中不断分析和习得这些“隐性知识”。随着时间积累,这些经验数据将会形成飞轮效应。Agent 在习得经验后能够做更精准的推荐,给出更多的建议供选择,反过来提升人机协同的工作质量。
用不断迭代完善的 AskXBOT 平台,帮助企业构建更智能更自动化的 Agent,赋能企业更好地进行数字化转型,实现增效提质降本。
洞悉这一点,假以时日,澜码科技的“数据飞轮”必然会转得更快,飞的更远。
全文完
【王吉伟频道,关注 AIGC 与 IoT,专注数字化转型、业务流程自动化与 RPA,欢迎关注与交流。】
版权声明: 本文为 InfoQ 作者【王吉伟频道】的原创文章。
原文链接:【http://xie.infoq.cn/article/66f71fc593e990fb450c0cbc5】。
本文遵守【CC-BY 4.0】协议,转载请保留原文出处及本版权声明。
评论