Zilliz 落地垂直 RAG：为什么说医疗场景中，LLM 只是半成品？

“卷模型不如卷应用，作为一个在公立医院工作的非正式程序员，把 AI 的某一个特性功能应用到医院的日常的工作中，解决某一个痛点这就是最好的创新、最实用的“卷”。”云南省富源县人民医院医疗装备科的工程师李工说到。

在临床工作中，有很多医疗设备种类，每种产品类目又包含多个企业的多个产品型号，不同的型号功能不同维护也不同。比如设备的清洁消毒，呼吸机和监护仪都需要消毒，但是消毒方式可能不一样，甚至呼吸机 A 型号和 B 型号消毒方式也不尽相同。因此，必须要针对具体型号的产品说明做精准内容的召回。

而随着 AI 大模型的应用、随着 RAG 技术的发展，在向量数据库高性能、高准度的检索能力支持下，“精准召回”这个挑战就变得不那么困难了。

精准召回没那么简单

“我们联合兄弟单位申报的国家卫健委《2024 年医学工程科研项目》顺利通过审批，拿到了立项通知书，这给了我在这条路上继续探索强大的信心。”

李工提到的项目正是团队在探索的将 AI 大模型应用于医疗设备和医用耗材领域，业务流程依赖于 RAG+LLM 的功能，以便于给临床提供指定型号的设备或耗材的精准指导。

在使用 RAG 技术之前，单纯通过 LLM 来进行临床医学设备的知识问答往往会出现幻觉，无法实现准确回答，“不准确”这个对于医疗装备领域来说存在很严重的问题，直接影响到后续的医疗效果和设备维护。

团队采用 Dify 作为全流程开发平台，其内置的流程编排器方便上手，大模型服务提供商也非常全面，再加上专业向量数据库在背后做知识库支撑，整个医疗装备知识库就初见雏形。然而将设备文档一股脑存到知识库当中仍然会存在问题，例如监护仪下就是所有品牌的监护仪，呼吸机下就是所有品牌的呼吸机。

这种做法带来了两个严重的后果：首先，搜索特定品牌的机器时，可能会错误地召回其他品牌的说明；其次，搜索同一品牌下特定型号的内容时，可能会错误地召回其他型号的信息。这种混淆显然是不符合医疗工作对精准度的严格要求的。

精准召回没那么简单，而向量数据库，是支撑整个 RAG 体系运行的一个关键。 最终，李工团队选择了 Zilliz Cloud ，让整个项目系统达到了满意的效果。

专业的事情交给专业的人去做

精准的向量召回

在业务的实际运行过程中，系统将每台设备的知识进行切片，每个切片额外再加上设备型号的标记，然后将打上标记的切片进行 Embedding 之后再存入 Zilliz Cloud，存入 Zilliz Cloud 还会增加标量信息，如设备型号，设备分组等，可以通过 Zilliz Cloud 的混合查询（Hybrid Search），Partition Key 分组隔离等功能，大大提高召回的精准度和查询响应效率，解决了不同品牌、不同型号设备之间知识库混乱问题，医护人员使用体验上有了很大提升。

从业务流程上看，我们只需要在产品 SmartAI 输入关键词，SmartAI 即可输出召回内容，系统其实是经过知识导入→分片→Embedding→向量召回→LLM处理这样的一系列操作。

基于 Zilliz Cloud 创建的 Cluster 当前可提供百万级租户的能力，同时满足数据隔离和查询效率需求。

更优的使用体验、更专业的技术支持

“我本身是不具备向量数据库技能的，那么最好的办法就是将专业的事情交给专业的人做。Zilliz Cloud 给我们提供了非常专业的服务，虽然说要花点钱，但是我觉得很值得、很省心。同时，业务上线后，我们发现 Zilliz Cloud 带来了更快的召回速度和更精准的召回质量。”李工如是说。

2024 年，Forrester 针对市场上主流向量数据库供应商进行了评估，在 Q3 发布了 Forrester Wave™报告中，Zilliz 获评全球领导者，提供的开箱即用的向量数据库云服务 Zilliz Cloud 可提供 99.95%的 SLA 及全天候的技术支持，李工提到“我们与 Zilliz 有一个专门的业务群，任何问题在群里都能得到及时的回复，同时我们也会交流后续的一些想法以及正在研究的东西是什么。”

星星之火，可以燎原

目前，SmartAI 技术已经成功集成到数智医工 APP——专业的医学装备全周期管理软件。而在临床实践中，医护人员对医疗设备的熟练操作和对报警信息的准确理解对于保障患者安全至关重要。因此，如何帮助那些忙碌的医护人员迅速、便捷且准确地获取相关知识点，成为了一个需要持续关注和投入的重要课题。

李工强调，SmartAI 的应用并不仅限于富源县人民医院，目前正向整个云南省推广。