用户案例｜Milvus 助力 Credal.AI 实现 GenAI 安全与可控

AIGC 时代，企业流程中是否整合人工智能（AI）对于的企业竞争力至关重要。然而，随着 AI 不断发展演进，企业也在此过程中面临数据安全管理、访问权限、数据隐私等方面的挑战。

为了更好地解决上述问题，Credal.AI（以下简称 “Credal”） 提供的解决方案使组织能够在释放生成式人工智能（GenAI）潜力的同时降低其风险。Credal 解决方案的核心向量数据库 Milvus，在 Milvus 的加持下，Credal 能够更好地实现其企业愿景——【打造安全且实用的 AI】 。

01.Credal：GenAI 与企业数据安全间的桥梁

Credal 的目标是使企业能安全且方便地使用 GenAI。为此，Credal 提供了强大的数据集成和治理功能，能从 Microsoft Office、Google Workspace 以及 Slack 等多种平台中拉取数据。他们推出了类似于“Okta 的 AI 版本”，从而严格管理访问和权限，以便为开发者和终端用户提供一个流畅且安全的接口。因此，Credal 成为一个端到端的解决方案，支持安全、企业级的 GenAI 部署。

从用户的角度来看，他们无需精通编码或复杂的算法便可利用大量数据，发挥 GenAI 的力量。用户能够使用 Credal 创建代理，确保能够最大化利用 GenAI 技术。

对于管理员和 IT 团队，Credal 提供了监控数据和管理工具，包括强制根据使用条款实施、审计跟踪、日志记录、数据目录和数据治理等功能。这些功能都是在大型企业中高效部署 GenAI 的关键部分。用户可以通过 Credal 的聊天界面或 API 使用诸多重要功能，如 PII 删除、审计日志、数据访问控制等。

02.Credal 痛点：缺乏生产就绪的向量数据库

在 Credal AI 产品开发的初期阶段，公司遭遇了多个挑战。其中一个核心功能是语义搜索，但发现使用基本的向量搜索插件在大规模实现这个功能颇为困难。当语义搜索被嵌入到需要高数据库性能的定制工作流中时，这些挑战变得更为严重。为了构造这些由 GenAI 驱动的工作流，需要对传统的搜索机制进行改进，因为这些工作流需要根据复杂、用户定义的标准实时处理大量数据集。

另外，由于拥有多种托管环境，包括云基础设施和现场部署，Credal 需要有一个可以自我托管，且得到活跃开源社区支持的向量数据库，一个快速、可扩展且多功能的数据库，以应对复杂的数据管道和多种托管条件的需求。而在进行技术选型的过程中，Credal 发现市面上有许多向量数据库解决方案，但都无法满足其企业级的需求。

03.选择 Milvus：以开发者为核心的全能向量数据库

经过对众多市面上主流的向量数据库的评估，评估指标包括：是否支持自托管、可扩展性、是否拥有庞大的社区。

Milvus 在评估中脱颖而出。Milvus 在 GitHub 上获星超过 24 K，拥有高度活跃的社区，且处于不断迭代的过程中，高频推出新功能。

首先，Milvus 不断升级的特性是 Credal 考虑的重点，特别是其混合搜索功能，能够在执行向量搜索的同时过滤其他元数据。尽管许多解决方案提供了快速的向量搜索，但在处理结构化数据方面却显得力不从心。Milvus 的混合搜索能力完美解决了这一技术缺口，解决了实际的商业问题。

其次，Milvus 为 Kubernetes 提供的官方 Helm Chart 同样是 Credal 考虑的重点。尽管自定义 Helm Chart 不是难事，但官方支持的 Chart 却体现了 Milvus 对开发者成功的承诺。Credal 认为这体现了 Milvus 团队不追求短期利益，而是致力于解决用户面临的实际挑战。尤其是对于 Credal AI 这样的初创企业来说，这种支持极为宝贵，Milvus 可以帮助他们简化部署流程，节省时间和工程资源。

再者，Milvus 从架构设计上，将计算和存储分离，因此具备高度的灵活性和可扩展性。与单节点的数据库架构不同，Milvus 的架构支持灵活扩展，从而应对不断变化的需求。

Credal 联合创始人兼首席技术官 Jack Fischer 强调了这种架构设计的优越性：“刚开始搭建平台时，我们并不能确切知道后续的访问模式会是什么样的。随着我们的产品发展，访问模式肯定会随之变化......所以，我们很庆幸采用了 Milvus 这种存储和计算分离的向量数据库。无论我们如何发展产品，Milvus 能够满足我们的业务需求，我们对此充满信心。”

04.结果：Milvus 助力 Credal 搭建高效、可扩展的平台

对于 Credal AI 来说，采用 Milvus 无疑改变了整个游戏局面，为他们复杂的向量搜索需求提供了坚实的基础。Milvus 的技术能力迅速消除了他们对数据库性能的初步疑虑。在创业公司常面对不断变化需求的场景中，Milvus 既是即时的解决方案，也展现出长期的价值。

选择 Milvus 的决定得到了验证，它完美融入了 Credal AI 的现有系统，不仅满足了技术的前提条件，还实现了更广泛的商业目标。由于其分离的存储和计算架构，使得平台具有很高的可扩展性，这让 Credal AI 有信心预见并适应不断出现的客户需求。这也让 Credal 能够集中精力做它最擅长的事：不断优化其核心产品并促进用户参与度。他们完全放心，无论面对什么样的需求，其后端都能够应对自如。

Fisher 表示：“在我们需求的文氏图中，处在最中间的就是 Milvus，它集所有需求的交集于一身。这点是其他向量数据库都比不上的。如果只需要其中一两点功能，那可以考虑别的向量数据库。但如果需要所有功能，必然选择 Milvus。”

05.未来合作：与 Zilliz 共绘蓝图

借助 Milvus，Credal 能够为客户提供可扩展、易于使用的解决方案，而无需从头开始自行研发向量搜索解决方法。此外，使用 Milvus 并不会带来额外的运营开销。Milvus 的可扩展性和稳定性确保了 Credal 平台能够随着业务发展灵活扩展。

目前，Credal 正考虑未来与打造 Milvus 的原厂 Zilliz 合作，利用 Zilliz Cloud 为其云上客户提供服务。Credal 的公司使命和愿景是持续努力将 GenAI 功能整合到实际企业应用中，这就需要强大的安全保障和全面的数据治理。Zilliz Cloud——全托管、开箱即用的 Milvus 服务，非常契合 Credal 的商业战略，能够助其简化运营流程，优化云上客户的体验。关于未来的合作，我们拭目以待！