QAnything 1.4.1 中的文档解析

2024-05-27
北京
本文字数：4510 字
阅读完需：约 15 分钟

2024 年初我们开源了 QAnything，一个基于检索增强生成式应用（RAG）的本地知识库问答系统。对于本地知识库，QAnything 支持多种格式的文档输入，允许用户上传包括 PDF、图片、Word、PowerPoint、Excel、TXT，甚至音频等多种格式的数据。用户可以针对知识库进行互动问答，所有答案均能精准溯源，帮助用户确认问答的准确性。

四个月时间中，QAnything 于 Github 的开源项目已经获得了近万颗星星，吸引了开发者社区的广泛关注，同时我们也收到了大量开发者的反馈。从提升整体问答准确性与用户体验角度出发，结合我们对目前 RAG 领域发展的理解。我们决定对 QAnything SaaS 平台中有关文档解析的部分技术进行开源，提升 QAnything 开源的效果。

在这篇博客中，我们将分享 QAnything 中文档解析的升级之路，包括我们对文档解析之于 RAG 的理解和认知，流程的设计思路，具体功能的实现路径，以及最终带来的问答效果的提升。

为什么是文档解析

随着最近半年中，一些长上下文 LLM 的出现和发展，很多 RAG 的经典问题（例如文档中的知识定位，也叫“大海捞针”）可以被很轻易的解决。一时针对 RAG 是否会被长上下文 LLM 取代的争论四起，一些悲观者甚至发出了“RAG 已死”的言论。从目前的发展现状来看，RAG 系统相比长上下文 LLM 最直接的优势普遍被认为还是计算成本，然而成本上的问题会随着时间的推移慢慢变得不是问题。

这么看来，RAG 被淘汰是否只是个时间问题了？我们认为，RAG 仍有两点优势是短时间内无法被替代的。其一是可以处理格式多样版式各异的文档数据，包括文档中的格式化区块（例如图片、表格、代码等等），并针对这些逻辑区块进行问答；其二是可以很直接的溯源，帮助用户快速从原文中验证答案的可靠性，从而提升整个问答系统的可信度。而这两点优势的发挥，都需要依赖一个强大的文档解析流程。

恰好，我们在文档解析领域具有一定的技术积累，做出过例如文档翻译和有道速读等成功的功能与产品，也于 QAnything SaaS 平台成功的应用了这项技术。

面向 RAG 的文档解析

早期的 RAG 系统或工具，都使用一套简单直接的解析方案。即直接提取文档中的所有文字信息，简单地根据等间距或文字空白对文字内容进行 chunk 切分，并将这些 chunk 转换为向量数据库用于语义检索。这样做对于一些简单场景是可行的，但我们在实践过程中发现了如下一些问题：（1）文字 chunk 语义的不完整（2）多栏文档阅读顺序错乱（3）非纯文本结构的区域格式错乱或直接丢失。

检索是 RAG 中相当重要的一个环节，一般是基于向量相似度排序来实现参考源的找回。假如文字 chunk 也即最小检索颗粒度中包括多条语义无关的内容，或者一些完整的语义被切分到不同的 chunk 中，都会导致语义向量的表示不准确，无法被特定语义的问题匹配到。因此这里的要求是尽量确保切分出的 chunk 内语义是完整的，同时尽量确保一些基本的连贯语义被切分到了同一个 chunk 中。

对于常见的多栏文档，例如 IEEE 会议论文，传统的 OCR 识别只能对文本行进行定位与识别，无法按照阅读顺序对文本行进行排序，无法确定正文与非正文内容。这会导致文本内容的顺序错乱，或者包含页眉页脚等非正文的无关信息，从而严重影响 RAG 系统的检索和问答效果。因此文档解析应具有确定文档阅读顺序的能力。

一些非纯文本结构的区域，例如图片若直接被丢弃则无法在 LLM 的回答中被带出，而表格则需要转化为 LLM 可以理解的结构化格式，才能进行针对性的问答。对于图片我们做成链接的形式存储（表格也可以转换为图片以同样的形式存储），如此便可在 LLM 的对话中被带出，同时可以在问答过程中更高效的溯源。而表格则需要解析为 HTML 或 Markdown 的格式，才可以针对表格内容进行提问。

综上所述，一个面向 RAG 的文档解析流程应该具备有一定的版式分析能力，以及能解析表格这类具有特定结构的逻辑区域，我们以此来设计 QAnything 中文档解析的算法流程。即先通过版式分析对文档中的逻辑区块进行区分与定位，这样做可以（1）确保纯文本部分只包括正文内容，将其以章节这种自然的形式切分确保其语义完整性，还有机会得到章节标题这类高阶的语义信息（2）得到配图和表格这类需要特殊处理的非纯文本区域的类别和位置（3）得到与阅读顺序一致的区域顺序。其后，我们再对非纯文本区域进行更进一步的处理。

我们选择 Markdown 作为文档解析的统一输出格式，因其设计初衷与面向 RAG 的文档解析完全一致：只关注内容而非格式。Markdown 可以表示标题、正文、表格、超链接等内容，而更复杂的表格可以由内嵌 HTML 的形式表示。同时 Markdown 作为一种简洁易用的轻量级标注语言，充斥在互联网世界的各种数据中，其格式可以被市面主流的开源或商用 LLM 所理解，可以很好的完成基于表格等格式的对话任务。

具体技术点

版式分析

QAnything 选择在切分 chunk 时，不是采用纯文本切分的方式，而是通过对文档的布局结构进行预测得到文字段落、图片、表格等。在 QAnything 切分 chunk 时会考虑文档的布局结构，同一语义的文字片段可以被切分到相同的 chunk 中，对于 RAG 流程中相关内容的准确召回有着极大的帮助。

具体的在 QAnything 中，我们沿用了目标识别的思路来进行文档布局分析，依托在有道文档翻译场景积累的海量数据，训练了一个多场景、高精度的布局分析模型，对文档的布局进行识别。在 QAnything 中，我们同时引入了一套版面恢复流程，融合版式分析的结果和 OCR 识别结果，将文档转换成 markdown 的形式进行输出，方便后续的 chunk 切分过程。

表格解析

QAnything 中,我们发现用户的问答记录集中在对文档表格数据的提问上。为了提高问答系统对表格数据的理解和响应准确性,我们采用了 LORE 表结构识别模型。LORE 模型的核心是逻辑位置回归网络,它将表格单元格的空间位置和逻辑位置结合在一起进行端到端建模和预测。LORE 使用基于 CNN 的关键点分割网络提取视觉特征,通过两个回归头分别预测单元格的空间位置和逻辑位置。最终，LORE 可以精确还原出整个表格的行列结构,并输出机器可解析的表示。

采用了表格解析方案后,QAnything 的表格数据问答准确率得到了显著提升,特别是对于复杂的跨行跨列问题,极大增强了系统的实用性。

检索与问答的提升

我们以有道数字人白皮书和 Qanything 白皮书两个 PDF 文档为例，分别按照常规 PDF 解析方式和面向 RAG 的方式进行解析，最终进行问答对比，以比较两种解析方式的优劣。其中常规 PDF 解析将 PDF 文档中的文字直接进行提取，以固定窗口大小切分文字 chunk；面向 RAG 的解析方式利用文档解析后生成的 Markdown 文档，按照语义章节对文档进行切分。

更新文档解析逻辑后的 QAnything 优势比较如下：

优势 1：语义更加完整更加精准的召回，以得到更准确更加有条理的回答

Q1：QAnything 的产品优势有哪些？

旧版回答：

Qanything 的产品优势包括成本优势、效率提升、灵活应用、AI 赋能和易用至上。具体来说，Qanything 利用先进的数字技术，采用高效的数据采集与合成技术，能够快速打造出精准、神态灵动的虚拟形象，从而实现经济高效的个性化虚拟主播创建。同时，Qanything 简化了创作流程，用户无需专业技术背景即可快速掌握,支持批量生产内容，显著提升了更新速度和工作效率。用户可以根据具体需要自行选择合成的片段、精确控制动作的起始位置以及插放节奏，赋予了用户充分的创作自主权，灵活适应不同场景的不同需求。此外，Qanything 内置的大模型使得自动撰写播报文案成为可能，通过对大数据的学习和分析，能够即时生成各种热点话题的高质量播报文稿。最后，Qanything 配备一套友好易用的视频剪辑工具，专为非专业用户设计，将原本复杂的后期处理过程变得极度简化,用户能够轻松完成整套视频制作流程。

新版回答：

QAnything 问答系统的优势包括以下几点：1、支持任意格式的本地知识库: QAnything 可以处理多种格式的数据,包括 PDF、Word、PPT、TXT、图片、网页链接、数据库等，使用户能够方便地管理和使用各种类型的知识。2、基于行业专属大模型的自然语言处理技术：QAnything 利用 OCR 技术对各种类型的数据进行结构化处理，并调用大模型的自然语言处理能力，实现对数据的智能化分析和理解，包括实体识别、关系提取、语义分析、总结等。3、多种功能支持：QAnything 提供文件管理、模型训练、模型验证、多轮问答、下载等多种功能，帮助用户实现准确、快速、靠谱的业务知识问答体验。4、提高信息获取效率：相比以前的 FAQ、ES 等模式，文档问答技术进一步提高了处理效率和准确性，让用户更快速、更方便地获取所需信息。

总之，QAnything 问答系统通过支持任意格式的本地知识库、基于行业专属大模型的自然语言处理技术、多种功能支持和提高信息获取效率等优势，为企业级用户提供了准确、快速、靠谱的业务知识问答体验。

优势 2：可以针对表格进行问答，可以对表格中的内容进行精准定位

Q2：数字人部署 8G 内存可以吗？

（注：参考文档中有如下部分内容

旧版回答：

根据参考信息中的配置需求，有道数字人的推荐硬件配置环境中没有明确提及内存要求。因此，无法确定数字人部署是否可以使用 8GB 内存。建议参考有关文档或联系有道数字人的官方支持团队以获取更准确的信息。

新版回答：

根据参考信息中的配置需求，推荐的内存模块为 16G+，所以 8G 内存可能不够满足数字人部署的要求。

Q3：embedding 模型中 bce-embedding 和 bce-rerank 一起用的话，各项指标是多少？

（注：参考文档中有如下部分内容）

旧版回答：

bce-embedding 和 bce-rerank 是 embedding 模型中的两个组件。具体的指标取决于具体的应用场景和任务。一般来说， bce-embedding 用于生成语义向量，可以通过先进的 embedding 方法来提取文本的深层含义，从而提高搜索结果的相关性和问答匹配度。bce-rerank 则用于对搜索结果进行重排序，以进一步提高搜索的准确性和精度。关于具体的指标，可以根据实际情况进行评估和衡量。常见的指标包括准确率、召回率、F1 值等。另外,还可以根据具体任务的需求，如翻译、摘要和问答等,来评估模型的性能和效果。总之，bce-embedding 和 bce-rerank 的组合可以提高 embedding 模型在语义搜索和问答系统中的效果，具体的指标取决于具体的应用场景和任务需求。

新版回答：

根据参考信息中的数据，当使用 bce-embedding 时，各项指标如下：

WithoutReranker: 85.91/62.36
CohereRerank: 91.25/69.38
bge-reranker-large: 91.80/71.13
bce-reranker-base_v1: 93.46/77.02 这些指标表示了使用 bce-embedding 和 bce-rerank 模型时的命中率（hit rate）和平均倒排（mean reciprocal rank）的表现为 93.46/77.02 。

优势 3：可以解析文档中的配图这类非文本信息，并在回答中给出

Q4：交互型数字人的特点是什么？

新版回答：

交互型数字人的产品特点包括：