权威答案!灵犀医疗引入 Zilliz Cloud,千万级向量数据库赋能医学 AIGC 平台
“医疗行业是一个信息差较大的行业,术语体系庞杂且知识门类较多,如何能搜索到最精准的医学知识并采用最合理方式进行总结,这是我们医学 AIGC 平台 EviMed 所遇见的最主要的技术问题。
传统的数据库和全文检索方式难以满足我们的技术要求,结合了 Zilliz Cloud 向量数据库服务之后,我们的系统效能显著提升,客户响应速度提升了 8%,搜索结果精准度提升约 10%,企业内部运维成本也降低了 30% 。在使用的过程中,Zilliz Cloud 的专家团队也为我们提供了很好的支持与帮助,为我们的 EviMed 平台在行业中带来了很强的竞争优势。”
——灵犀医疗 CEO 王则远博士
01.灵犀医疗:专注医学知识搜索与内容生成
灵犀医疗是一家专注进行医学知识搜索和内容生成的企业,自研的 EviMed 平台为医院、医药生产企业和医务工作者提供基于检索增强生成(RAG)的 SaaS 服务,快速进行临床科研、疾病科普和药学评价的 AIGC 服务。现今已辅助 300 余家大型三甲医院完成 1300 余万次医学知识搜索和临床问题解答,并辅助生成 80 余万篇医学内容。
02.为什么需要 Zilliz Cloud?
针对目前医学领域中知识搜索和内容生产全流程耗时较长且证据的转化利用率低的痛点,灵犀医疗搭建了全面、庞大、完整的医学知识数据库,数据量高达 3.5 亿。同时医学的术语体系庞杂,搜索关键词的界限模糊,传统的数据查询方式难以满足精准知识定位和分析的要求,且响应速度和稳定性都无法保证,经常面临知识查找不到或不精准的情况,在用 Zilliz Cloud 服务之前,经常遇到客户质疑知识搜索覆盖面不全等情况。
由于业务的发展和数据量的持续扩大,对向量数据库的要求也越来越多——需要弹性扩容支撑向量存储和搜索,运维成本要低,要能支持稠密向量搜索、稀疏向量搜索和关键词搜索等多样的搜索机制,以及对 JAVA 的良好兼容性等。
通过与 Zilliz 团队充分沟通,灵犀医疗现今已将第一批次的千万级向量数据库搬迁至 Zilliz Cloud 上,实现知识搜索和临床科研两大核心业务版块的支持。
03.Zilliz Cloud 高效支持灵犀医疗两大核心场景
向量数据库是灵犀医疗业务场景技术提升的关键组件,基于 Zilliz Cloud 的性能特点,可为 EviMed 提供以下服务:
数据检索更高效:向量数据库可以大幅提升 EviMed 平台数据检索的速度和精确度,快速解答医务工作者的临床问题;
数据挖掘更彻底: 在临床科研和药学评价中,向量数据库的高维数据分析能力可用于深度挖掘文献、指南和药品说明书中的关键信息,提高定性/定量结论的生成速度和质量。
深化智能化数据分析:通过集成向量数据库,EviMed 可以在平台应用中实现更智能化的 AI 数据分析,提供后台 AI Agent 所必不可少的长文本记忆力。
Zilliz Cloud 的引入在灵犀医疗的 EviMed 平台中产生了很好的能力提升,其中包括以下几点:
避免出现无搜索结果:医学领域的术语多种多样,一种疾病往往会有多种亚组,同时会有很多的定语,例如“既往接受过含氟尿嘧啶类或含铂类化疗的晚期胃癌或胃食管交界部腺癌”,如果采用传统切词后的全文检索,将难以实现该知识内容的搜索。采用 Zilliz Cloud 向量数据库服务,可结合基于向量检索和关键词的全文检索进行混合搜索,从而避免搜索不到任何结果。
为 AI Agent 提供了“记忆力”:EviMed 的数据分析版块构建了一套 AI Agent,如果将所有的背景信息全部输入进大模型的话成本较高,而向量数据库可以将这些背景信息存储下来,后续根据 Agent 的需求再进行向量匹配的调取,从而一定程度上去除了大模型长上下文的依赖,降低了数据分析的成本。
运维成本降低 30%:Zilliz Cloud 提供了全套的向量存储和搜索云服务,并可实现弹性扩缩容,与 EviMed SaaS 平台无缝融合,即插即用,极大的降低了企业的系统运维成本。
04.关于 Zilliz
Zilliz 作为向量数据库技术的开创者,推出的全球最受欢迎的的开源向量数据库--Milvus,受到了全球 5000 家以上企业用户的支持与青睐。2023 年,Zilliz 推出了基于 Milvus 的全托管云服务 Zilliz Cloud。
截至目前,Zilliz Cloud 已实现全球 5 大云 13 个节点的全覆盖,是全球首个提供海内外多云服务的向量数据库企业,其企业注册用户已超过 40,000 家,付费用户遍及全球多个国家和地区,覆盖 AIGC 领域、电商、在线教育等场景。作为 AIGC 关键基础设施和 RAG 技术的基本组件提供商,Zilliz 完成了与全球头部大模型生态的对接,赋能大模型应用落地。
好消息,Milvus 社区正全网寻找「北辰使者」!!!
如果在使用 Milvus 或 Zilliz 产品有任何问题,可添加小助手微信 “zilliz-tech” 加入交流群。
欢迎关注微信公众号“Zilliz”,了解最新资讯。
评论