券商龙头借助 PowerAgent 实现大模型落地成本与效率平衡

2022 年 ChatGPT 的诞生被看作是 AI 大模型技术的“iPhone 时刻”，也象征着 AI 普惠时代的真正到来。大模型持续引领全球 AI 大模型技术突飞猛进，特别是中国的 AI 市场。

2023 年，我国 AI 领域“百模大战”的硝烟还未完全消散，2024 年就马不停蹄地开启了新一轮大模型应用的竞逐赛，越来越多的企业踏上了大模型技术的落地之路。根据国家互联网信息办公室最新公布的生成式人工智能备案信息，截至 2024 年 3 月，我国共有 117 个生成式人工智能服务完成了备案。

应用为王，四大难题制约大模型落地

尽管众多技术厂商入局，但现实情况是，企业在大模型落地过程中，依然面临诸多难题待解。

人才短缺，链路割裂，是制约大模型落地的关键。受限于专业人才的稀缺性，企业难以独立开发适应业务需求的大模型。即使克服人才短缺的问题，在传统的开发模式下，模型训练、部署和应用往往分开进行，这使得企业在完成模型训练后，还需要投入大量的人力和物力来进行应用的开发和部署。

模型训练难，成本投入高，企业转型力不从心。参数规模达 10 亿级别的模型训练并非易事，直接训练和部署大模型需要巨大的计算资源和资金投入。《2024 年人工智能指数报告》显示，OpenAI 的 GPT-4 训练成本预估 7800 万美元，而谷歌 Gemini Ultra 计算成本预估 1.91 亿美元；相比之下，2017 年发布的 Transformer 模型训练成本仅为 900 美元。

业务对接难，复用性差，大模型走向业务的最后一公里面临多重要求。传统 AI 应用与企业系统对接难度大，往往需要改造现有系统平台与之适应；应用烟囱式开发导致对接业务线多、沟通成本高、流程耦合性高、交付周期长。如何高效将大模型集成到业务系统，如何为业务人员提供易用的入口，都是实施过程中无法忽略的问题。

数据处理难度及数据安全隐患，也阻碍着企业应用重塑升级进程。传统数据处理和分析往往难以应对庞大的数据，加之数据泄露和攻击事件频发，数据安全和隐私保护成为一大隐患。

如果不解决这些企业客户关注的痛点，大模型就只能是没有钉子可砸的锤子，AI 普惠也就无从谈起。

技术驱动，四大核心能力降低大模型落地门槛

作为领先的对话式 AI 技术解决方案提供商，中关村科金洞察大模型应用痛点，研发了一站式大模型训推及应用开发平台 PowerAgent，以低门槛低依赖、低成本高效率、场景化高安全、定制化懂行业四大核心能力，让更多企业更快、更好地用上大模型。

低门槛低依赖——组合式 AI 能力与一体化设计双管齐下，降低人才路径依赖

PowerAgent 提供了一站式的大模型应用开发链路，涵盖模型训练、推理和应用构建。在模型开发阶段，提供交互式开发、任务式开发、大模型自训练能力；模型部署阶段，提供模型加速及一键部署能力；大模型应用构建阶段，通过模块化、组件化、可插拔化的 AI 原子能力，多模态大小模型+工具组合+人机协作的控制方式，让企业用户在不同场景下选择最佳的策略组合，达到最佳应用效果，降低对专业人才的强依赖。

低成本高效率——训练推理与集群调度两相结合，大幅降低模型开发落地成本

PowerAgent 提供多种模型训练方式（PreTrain、SFT、Rlhf），通过 AIHPC 实现异构、高性能集群统一调度、管理，根据实际需求动态调整资源分配，提高资源利用率。平台提供模型量化、加速高性能推理引擎，在资源受限或需要快速响应的环境中，可大幅降低模型训练与推理的成本。

场景化高安全——场景化数据处理与安全模型开发框架携手并进，为企业转型升级保驾护航

PowerAgent 支持先验知识的融入、场景化的数据处理，可实现分场景的 SFT、快速定制企业专属大模型。平台还支持数据回流与预处理、数据增强、数据标注，为模型应用提供高质量数据，提升模型处理场景问题的准确率。同时严格遵守数据安全和隐私保护的规定，基于安全框架结合相关的数据审查机制、后台陪跑机制，实现整体数据安全与应用合规。

定制化懂行业——行业 Know-How 与定制扩展互为补充，化解业务接入与适应难题

PowerAgent 平台沉淀了对话智能、知识智能、通用智能、决策智能等多场景解决方案，具备专有领域 Agent 模板，可将行业最佳实践快速传递复用。平台提供的大模型自动规划及流程自动化生成能力，极大降低了 AI 应用配置门槛。平台极高的可扩展和定制性，支持用户接入定制化插件；极强的兼容性保障了 PowerAgent 与现有系统的对接，保障了 PowerAgent 在业务环境变化时的敏捷适应能力。

标杆引领，某头部券商大模型投顾助手应用案例

客户服务痛点局限客户经理高质展业

国内某券商龙头企业在客户经理服务客户的场景下主要面临以下痛点：

1、客户经理自身素质不同，服务质量存在差异；头部客户经理的优秀话术难以沉淀。

2、客户经理为客户推荐资产配置组合，过程相对比较生硬，合规性差且成功率低。

3、希望引入大模型但早期没有构建独立自主的 AI 中台，相关技术算法人员储备不足。

一站构建大模型全流程落地技术方案

1、大模型领域化训练：依托 PowerAgent 构建金融专属大模型，更好地对证券术语、研报、数据做意图理解、要素抽取和内容生成。

2、投顾助手提炼沟通话术：结合服务数百家金融机构的海量营销话术积累，大模型训练个性化沟通话术，提升投顾场景话术采用率。

3、话术质量智能质检：通过小模型+大模型多能力，形成智能质检组合拳。

低门槛高收益项目技术亮点真实显著

1、开发成本低周期短：通过 PowerAgent 平台 SFT 微调将大模型金融领域化训练时长缩短 60%，画布编排让开发时长缩短 50%，项目交付缩短 40%。

2、AI 能力复用快：公司多业务共用一套平台，底层 AI 能力复用度高，多业务系统共享底层能力，避免重复开发。

3、变更成本低：PowerAgent 场景化配置能力，可快速变更相关 AI 应用配置，比定制化开发提效 40%。

4、支撑信创要求：整个系统支持国产信创环境，满足 GPU+CPU 的异构计算需求。

展业成功率提升 20%业务应用价值高

1、提升营销话术质量：通过大模型分析客户投资偏好，自动生成投资组合，结合研报生成针对性的对客话术。

2、提高展业效率：大模型直接生成对客沟通文案，相对人工节约 90%时间，展业效率显著提高。

3、展业合规性及成功率提升：大模型辅助智能质检产品，辅助提升展业合规性，提升 20%展业成功率。

未来已来，AI 技术因其智能化、易用性深入社会各个方面，“人人皆可成为开发者”也有望照进现实。中关村科金一站式大模型训推及应用开发平台 PowerAgent 将依托多年 AI 技术积累，发挥低成本、低门槛、强行业 Know-How 等核心优势，为企业提供更多元化、更高效的解决方案，持续推动大模型在企业营销、服务、运营、管理、工具智能等维度的应用落地。