写点什么

有道开源 RAG 引擎 QAnything 版本更新啦

  • 2024-01-20
    北京
  • 本文字数:666 字

    阅读完需:约 2 分钟

有道开源RAG引擎 QAnything 版本更新啦

https://github.com/netease-youdao/QAnything

近日,我们将我们的 RAG(基于检索增强的生成,Retrieval Augmented Generation)引擎QAnything开源了,用户可以传入 doc, pdf, 图片,ppt, excel 等各种类型的文档,就可以基于这些文档问答,像 "chatgpt" 一样的体验。本次开源包括了 embedding, rerank, LLM,向量数据库等所有必要的模型和系统模块,用户可以一键下载,纯本地搭建大模型问答系统,马上开始使用。



(QAnything 引擎系统架构图)


QAnything 受到广大开发者的密切关注,开源近两周,star 迅速涨到接近 2000,昨日 QAnything 进入到了 github 的 trending 版。




QAnything 开源后,广大用户给我们提了很多的意见。我们研发人员日夜不停的回答用户问题,并紧锣密鼓的改代码。昨日,我们发布了一个 Release 更新:


QAnything 版本 V1.1.0,让安装过程更简单,体验更流畅。

https://github.com/netease-youdao/QAnything/releases/tag/v1.1.0


Features:

- 安装过程更简单

  - 优化启动流程,支持一键启动:执行 bash run.sh 即可

  - 优化安装过程的交互,提示信息更友好

- 体验更流畅

  - 优化前端启动速度,秒打开。感谢网友 @jsoncode 的贡献!

- 部署选择更多

  - 优化显存占用,支持多 GPU 部署,目前支持单卡或双卡部署,双卡两张卡显存占用分别为 11G,5G

- 其他优化

  - 向量库占用空间减少到原来的 1/3 

  - 优化 xlsx,html 切分 chunk 时 size 过大导致的解析失败

  - 优化知识库内只有单文档时回答的效果

  - 优化 pdf 解析效果,pdf 解析速度

  - 提供原始未修改 DockerFile


QAnything 还在不断迭代升级中,欢迎大家下载使用并提供宝贵反馈!

发布于: 刚刚阅读数: 3
用户头像

高效学习,从有道开始 2021-03-10 加入

分享有道人的技术思考与实践。

评论

发布
暂无评论
有道开源RAG引擎 QAnything 版本更新啦_人工智能_有道技术团队_InfoQ写作社区