玩转 LLMs 之基础设施「利刃出鞘」
LLMs 时代已经到来,这个由 ChatGPT 开始的全球化技术浪潮,所经之处,风起云涌。LLMs 之于当下,更像是 iOS 、Android 之于移动互联网时代。开发者沸腾,投资机构争抢,与赛道相关的基础设施建设自然也成为整个圈子关注的焦点。
向量数据库就是其中之一,作为 LLMs 基础设施中的一把利刃,以 Milvus 和 Zilliz Cloud 为代表的向量数据库能为 LLMs 提供超强的存储能力,可以看作 LLMs 的记忆体。同时,为了方便大家使用,Milvus 和 Zilliz Cloud 也在自研和集成相关生态工具。
目前,我们已经发布了可以为开源项目提供问答服务的 OSSChat,以提升开发者的效率;为 ChatGPT 做了缓存层——GPTCache,以降低大语言模型开发成本、大大减少 LLMs 缓存时间。与此同时,我们也将产品集成到 LangChain、Auto-GPT、BabyAGI 之中,成为全球为数不多的同时与这些大热门项目深度对接的公司。
当然,为了让用户更丝滑地使用 Zilliz Cloud,我们也将于今年 6 月底登陆阿里云,与其他几朵云的合作也已提上日程,敬请期待!
言归正传,为了方便大家了解和学习,我们在 Deep Dive 直播中特地开设了 LLMs 专题。本期的 Deep Dive 邀请到 Zilliz 的两位工程师顾梦佳、付邦,他们将为大家详解 Zilliz Cloud 以及自研生态工具 GPTCache 如何为 LLMs 赋能,希望能为大家在大语言模型冲浪的旅程中,带来思考和启发。
扫码观看直播,本周四 20:00,直播间等你!
如果在使用 Milvus 或 Zilliz 产品有任何问题,可添加小助手微信 “zilliz-tech” 加入交流群
欢迎关注微信公众号“Zilliz”,了解最新资讯。
评论