在 AI 技术快速实现创意的时代，挖掘专业文档处理新需求成为关键突破点

a.内容描述

• 核心功能定位：该系统是一个基于推理的检索增强生成（RAG）系统，专门设计用于处理长篇幅专业文档，通过模拟人类专家的树状搜索方式进行知识提取和导航，避免传统向量检索中的相似性与相关性混淆问题。

• 关键应用场景：主要应用于金融报告、监管文件、学术教材、法律或技术手册等需要领域专业知识和多步推理的专业文档分析，特别适合超出大型语言模型上下文限制的文档处理。

b.功能特性

• 无需向量数据库：利用文档结构和大型语言模型推理进行检索，不依赖向量相似性搜索。

• 无需分块处理：文档按自然章节组织，而非人工分块，保持文档的完整性和逻辑性。

• 类人检索：模拟人类专家从复杂文档中导航和提取知识的方式，提高检索的准确性和相关性。

• 透明检索过程：基于推理的检索过程可解释，告别近似的向量搜索（“ vibe retrieval”）。

• 树状结构索引：将长文档转换为语义树状结构，类似“目录”，优化大型语言模型的使用。

d.使用说明

• 安装依赖：通过 pip 安装所需依赖包。

• 设置 API 密钥：在根目录创建.env 文件，添加 OpenAI API 密钥。

• 运行系统：使用命令行工具指定 PDF 路径运行系统，生成树状结构索引。

• 可选参数：可自定义模型选择、节点最大页数、节点最大 token 数等参数，以适应不同文档处理需求。

e.潜在新需求

（1）需求 1：用户希望支持精确的 Markdown 输入，以增强文档处理的灵活性和兼容性。（2）需求 2：用户希望优化 token 限制处理，确保在达到限制时能严格约束或提供降级处理，避免系统崩溃。（3）需求 3：用户希望增强异步处理能力，提高系统在处理大文件时的效率和稳定性。（4）需求 4：用户希望改进提示词设计，以提升大型语言模型在检索过程中的准确性和响应质量。更多精彩内容 请关注我的个人公众号 公众号（办公 AI 智能小助手）公众号二维码

办公AI智能小助手