稳!Zilliz 助力 XTransfer 基于 RAG 打造 B2B 外贸金融加速器
中小微企业是保持国民经济平稳快速发展的重要力量。根据联合国数据,中小微企业在全球企业总数中占比超过 90%,为全球经济贡献了超过 50%的 GDP。XTransfer 致力于为跨境贸易企业提供安全、高效、低成本的跨境支付及金融解决方案,让全球中小微企业惠享金融服务。
作为一站式外贸企业跨境金融和风控服务公司,XTransfer 成立于 2017 年,深耕行业,以大数据驱动,通过人工智能等技术,服务覆盖全球 200+国家及地区,致力于帮助中小微企业在全球范围内进行贸易往来,更便捷地管理跨境资金流动。现今,XTransfer 已经服务超过五十五万家中小微企业,成为中国 B2B 外贸金融第一平台。
一墙之隔的缘分,三年的陪伴与成长
时间倒回到 2022 年,Zilliz 公司开发的开源向量数据库 Milvus 被正式引入 XTransfer,XTransfer 在线智能客服系统“智能小秋”1.0 上线,双方的合作拉开序幕。彼时,Milvus 的主要使用场景还是纯语义检索,问答查询只能靠检索匹配。
“Milvus 社区是极其活跃的,我也是其中一员,刚开始用的时候,有些功能还不够完善,我就在 Github 上提交 issue,然后在下一个版本,发现需求就合入了,我还参与了多次社区分享。” XTransfer 资深算法工程师马经纬回忆到,“在我们需要联系技术支持的时候,却惊奇地发现,Milvus 产品的的母公司 Zilliz 与 XTransfer 的办公区仅有一墙之隔”。在那段时间里,XTransfer 的技术人员带着电脑到 Zilliz 的办公室进行技术交流,成了一道独特的风景。
“XTransfer 有业务场景,Zilliz 有技术支持。三年的合作,可以说,Zilliz 和 XTransfer 是一起成长,相伴壮大的”,马经纬如是说。
顺势而为,拥抱大模型时代
2022 年底,AI 大模型异军突起,XTransfer 顺势而为,投入了基于向量数据库+大模型的 RAG (Retrieval Augmented Generation)应用开发。在不到一年的时间里,XTransfer 基于云上的向量数据库 Zilliz Cloud,搭建起了一个企业级知识库中台,并基于这个中台能力,落地了丰富多彩的应用,除了让客服系统变得更智能之外,还有风控实时辅助、营销辅助以及内部管理辅助等特色能力也一步步搭建起来。而 XTransfer 在落地这些 RAG 应用的过程中,也在不断尝试向量数据库的新版本、新特性。
今年,XTransfer 自研外贸金融大模型 TradePilot 正式落地,通过数据分析和人工智能技术,提高支付及金融服务的效率和安全性。该模型历经数轮迭代,结合大量业务数据和市场需求,采用了最新的大模型训练和微调技术,确保在风险管理、客户服务等方面具有卓越的表现。TradePilot 对于外贸金融知识的理解能力与 Zilliz Cloud 的高效语义检索能力相得益彰,XTransfer 的研发团队打造出了大模型时代 B2B 外贸金融领域的最“稳”加速器。
从 Milvus 到 Zilliz Cloud 云服务,更稳更安心
随着服务企业规模的扩大和业务的复杂化,XTransfer 需要更稳定的企业级 SaaS 服务,来保障业务的稳定性并降低运维成本。Zilliz Cloud 采用了多层次的企业级数据安全措施,包括隔离环境、数据保密、角色与权限控制以及数据备份和灾难恢复,确保数据的完整性和隐私。此外,Zilliz Cloud 还通过了 ISO/IEC 27001、GDPR 和 HIPAA 等安全合规认证,满足严格的数据安全和隐私保护标准。因此 XTransfer 将最初依赖开源向量数据库 Milvus 的业务切换到了 Milvus 的全托管云服务--Zilliz Cloud 上。
“之前是我们自行将开源 Milvus 部署在服务器上,当有新的业务上线或者变更时,内部会批量整理一批材料,进行大量数据的写入,数据膨胀得非常快,这会给服务器运维带来一定的压力。另外当遇到版本升级等问题时,我们还需要联系 Zilliz 的工程师来现场解决。后来我们用了云上的向量数据库 Zilliz Cloud 之后,就避免了这些问题,向量数据库上云后,稳定性得到很大的提升。我们遇到问题的时候,Zilliz 的技术专家都可以在第一时间在线帮我们解决。”
相比于开源 Milvus,Zilliz Cloud 提供了更好的可观测性,更易用的运维工具,包括一系列的监控指标及告警机制,以帮助用户了解业务集群当前所处的状况,更好地保障相关生产业务的稳定性和可靠性。
知识沉淀助力企业可持续发展
大模型时代,对 AI 知识库的建设提出了迫切的需求,大模型虽然拥有很强的基础能力,但对特定专业领域知识记忆能力有限,因此需要外接知识检索系统。 传统的知识管理方式已无法满足企业的需求。XTransfer 为了实现高效发展,必须将分散的知识汇集起来,体系化加工处理,形成企业的知识资产及专业岗位人才的知识储备。
需求与挑战:知识的高效检索
传统数据库基于精确匹配搜索搭建,但这种搜索方式无法涵盖上下文、语义和用户意图等信息。而向量数据库可以很好地解决这个问题。
XTransfer 基于 RAG(Retrieval-Augmented Generation)技术,将向量数据库 Zilliz Cloud 的强大向量检索能力与 AI 大模型的综合理解能力相结合。依托企业长期沉淀下来的知识资产构建 AI 知识库,实现了知识的高效检索和输出,并支持多种应用场景,包括智能问答、实时辅助、离线学习等,为业务提效发挥了极大的促进作用。
XTransfer 企业 AI 知识库业务架构示意图
典型业务使用场景:
智能问答+实时辅助,助力行业专家炼成
2024 年,随着业务从 Milvus 全量迁移至 Zilliz Cloud,智能小秋也迭代到 2.0 版本。截至当前,7×24h 在线的智能小秋已被调用数十万次 ,帮助中小微外贸企业客户解决了无数的疑难问题。借助于 Zilliz Cloud 及大模型构建的 RAG 能力,智能小秋 2.0 在语义识别和理解能力上实现了质的飞跃,而在 XTransfer 的客户服务体系内,大部分的咨询场景都可以通过智能小秋 2.0 得到解决。
XTransfer 智能客服逻辑链路图
而当客户需要接入到人工客服的时候,知识库检索即刻发挥实时辅助作用。客服专员可以在与客户交流的同时,检索关联知识,高效、准确地回复客户的业务咨询,真正实现“从人工记忆到人机融合”。
风控工单审核助手-风控审核人员的 Copilot
作为 B2B 外贸金融全功能平台,XTransfer 的反洗钱风控审核坚持严格标准。
自成立以来,XTransfer 自研打造了以中小微企业为中心的数据化、自动化、互联网化和智能化的反洗钱风控基础设施。借助反洗钱风控基础设施,XTransfer 对每笔 B2B 跨境贸易的信息流、物流和资金流进行交叉验证,以还原交易全貌,同时利用人工智能技术对交易链路进行全程的数据化监控,确保跨境交易的安全与合规。如今,XTransfer 处理的绝大部分跨境交易都是通过反洗钱风控系统自动审核,只有很小部分存在疑点的交易会进入人工审核环节。
在可疑交易的人工审核环节中,智能风控的工单审核助手基于 Zilliz Cloud 支撑的知识库语义检索能力,针对海量的产品、行业等信息进行综合搜索匹配,把推荐的辅助提示内容给到风控审核人员,助力审核人员迅速定位潜在的交易风险,确保每一笔交易的安全性和合规性。
写在末尾:持续探索,赋能中小企业出海
未来,XTransfer 将继续优化其 AI 知识库,实现多模态知识融合,并在复杂意图任务推理能力、指令遵循能力等方面进行提升,以期为客户提供更高效、更便捷的 B2B 外贸金融全功能服务。
中小微企业是推动全球贸易增长的重要力量。在国际贸易领域,中小微企业以其灵活性和创新能力, 成为连接全球市场的关键纽带。随着 AI 技术的不断进步,Zilliz 将继续支持 XTransfer 引领行业创新,为全球中小微企业提供更优质的金融服务。
版权声明: 本文为 InfoQ 作者【Zilliz】的原创文章。
原文链接:【http://xie.infoq.cn/article/1808050b22f719d07722fccb4】。
本文遵守【CC-BY 4.0】协议,转载请保留原文出处及本版权声明。
评论