这款 PDF 解析工具,精准触达大模型问答应用的需要
过去的一年,是大语言模型快速发展的一年。大模型强大的语言理解能力,逐渐让用户习惯了将各类文章丢给大模型,让它来帮忙总结提炼。从产品角度看,这是一次 10 倍体验的飞跃,意味着巨大的市场机会。也因此,市面上涌现出了大量的文档+大模型的应用。但大多数的开发者普遍都会遇到一个问题,那就是各种文档的效果都想做好,兼容起来太麻烦了,有没有更好的解决方案?
以 PDF 为例,通常大家会尝试选择开源工具,比如 PyPDF2,但发现它们对中文的支持都不太好;有些对行业相对了解的开发者,可能会选择一些付费的 OCR api,但往往结果都是按行输出,丢失了段落信息,更不用说对于表格,或者像论文这样的双栏版式的良好支持了。
行内人士都知道,LLM 在训练时,通常会采用较多的论文或书籍等知识密度较高的语料。大家一般会采用 Markdown 格式作为训练语料,这种格式既简单,又能反映一些基本的排版,能很好地表征论文和书籍中的信息。那么很自然地想到,如果模型在做文档问答推理时,给到的内容也是 Markdown 格式的,效果会不会更好?
对于这个问题,合合信息的回答是肯定的。
合合信息实验结果表明:在同一批合同数据上,用 Llama-7B 模型,同样的 Prompt 做信息抽取,比较纯 OCR 和 markdown 格式输出的差异,结果发现,Markdown 格式的抽取准确率要高于纯 OCR 输出不少。
也因此,合合信息决定将智能文字处理领域十几年的积累都利用起来,为当前大模型浪潮下的开发者们,打造一款 LLM 友好的文档解析产品。
大模型问答应用需要一款怎样的 PDF 解析工具
经过调研发现,一款好用的 PDF 解析工具,至少要有 3 个特性:一是速度快、二是精度高、三是兼容性好。●速度快,是指解析一个文件的耗时要在秒级。尤其对于 C 端应用而言,如果用户上传一个 300 页的文档,结果要等上 5 分钟,这个体验一定是灾难性的。
●精度高,是指对于各类版面元素都要有不错的识别效果。不管是公式、表格、还是相对复杂的排版,都能正确理解并准确还原。其中尤其以表格最为关键,如果表格的行列信息错位,会直接导致 LLM 在理解结论时出错。
●兼容性好,是指对于繁杂的 PDF 编码格式都能正确识别,不会出现乱码、大量丢字等现象。
当然,最基本的还得有产品的稳定性和成本。
● 作为基础设施,稳定性是立身之本,尤其对于需要文档解析来提供线上服务的应用来说,如果底层基建不响应,精心设计的上层应用自然难以发挥应有的价值。
● 至于成本,对于要处理大量文件数据的业务而言,一点成本差异乘以巨大的文件数量,也可能导致最终成本难以接受。
最后,这里还想提一个关于开发者友好的需求。不管什么工具,开源的代码也好,闭源的接口也好,最终都是需要开发者集成到自己业务中的。一款开发者友好的工具,能让整个集成调试变得更轻松。最理想的情况是,不需要复杂的 debug,不需要安装各种依赖环境,最好直接一键就能完成集成。同时出了问题还有完善的文档体系和售后或是社区支持。
合合信息文档解析实际应用效果
在前面提到的几个特性上,合合信息的文档解析产品,当下到底表现如何呢?
1)速度——长文档秒级处理
这里找了几个长样本,通过接口限定其调用页面数,得到耗时结果如下:
同时,团队也测试了不同尺寸的单张图片耗时:
目前产品还在针对速度做进一步的优化,内部最快的版本,100 页的耗时 P90 小于 2.5s,预计 5 月会上线。
2)精度与兼容性
为了直观展示使用合合信息解析能力后的效果,团队做了一次对比测试。
先用一批样本放到当前主流的几个大模型问答产品中,针对特定内容进行提问。然后挑选出各家产品均未能答对的样本,将其通过合合信息的接口输出为 Markdown 格式。由于目前仅有两家支持.md 格式,因此团队手动将文件后缀改为.txt。然后将该.txt 文件上传到各家产品中,再问和之前同样的问题,看回答情况是否有改善。
展示几张主要的结果:首先是一个扫描件中的无线表格样本。某热门的大模型问答产品,在使用自带的解析时,找到的信息和表格内容不符;换用合合信息的解析结果之后,就能找对正确的数字了。
一张数百页的扫描版书籍,使用自带解析结果时,回答内容并不完全准确,换合合信息的解析结果后,就和原文信息完全能对上了。
最后是一张会乱码的电子版论文,打开并复制第一段前两行内容后,粘贴出来是乱码,如下:
在使用自带解析结果时,直接提示内容乱码,而在使用合合信息解析结果后,便能正确回答问题了。
如果尝试过基于开源 PDF 解析工具,或是开源 OCR 方案,搭建自己的 PDF 解析服务的开发者们,应该对文档处理的复杂程度有很深刻的体会。要么是公式精度不够高,输出的 latex 格式经常语法错误;要么是 layout 识别不好,需要拼接别的方案;再或者就是花大量的时间维护一套规则,去兼容奇怪的格式。合合信息想做的,就是帮各位开发者们节省自己宝贵的生产力,和文档打交道这样的麻烦事,让我们来就好。开发者们的精力,如果用来构建自身产品的优势,往往会发挥更大的价值。
3)稳定性——低于万分之一的失败率
当前产品的公有云版本已正式上架,一个多月以来,经过多次迭代,目前的稳定性可以做到页面失败率小于万分之 0.5。当然,这也不是终点,合合信息的产品团队期望将整体错误率降低到百万分之一以下,从而为开发者们提供足够可靠的产品。
4)成本——低至 1 分钱/页
目前平台上提供 3 个套餐可选,如下图所示:
如果觉得用量很大,也可以联系商务切换为后付费机制,每月 180 万页以上调用的,即可按 1 分钱/页计费。
5)One more thing
过去几个月里,合合信息在金融年报和研报场景下做了不少优化,尤其处理了各种年报中最难的无线表格和合并单元格等。这里向大家汇报一下成果。首先是对于年报中的多行表头或多行单元格,合合信息的产品能够正确的划分结构,而多数识别引擎会错误折行,或是把第一行表头丢掉。
再来一个更复杂的 Case,上表中,数据部分只有第一列是多行,干扰情况可能还好。下面这张样本中第二个框里,第一列和后面的数据列,都是多行,不少识别引擎就会将其拆分成多行表格,而实际上,这里应该只有一行。
同时,从这个样本也可以看出,对于大多数合并单元格的样本,合合信息的文档解析能按照原始样式进行还原,而不是胡乱拆分。
对于研报这种一页里紧密排了好几张表的样本,合合信息的文档解析也能按正确的顺序和归属,将数据分类对应,拆成独立的表输出。
如何使用
合合信息文档解析产品已经上架 TextIn 平台,任何开发者都可以注册账号并开通使用。https://www.textin.com/market/detail/pdf_to_markdown
访问链接,点击【免费体验】,即可在线试用,如下图所示:
如果想试试用代码调用,也可以访问对应的接口文档内容:TextIn - API 中心 - 通用文档解析。平台提供了一个 Playground,帮开发者们预先调试接口。
点击页面中【API 调试】按钮,即可进入调试页面。
在这里,可以简单配置一些接口参数,发起调用后,右侧即会出现调用结果。如果想用 python 调用,既可以参考平台上的通用示例代码,也可以关注公众号《合研社》,获取一些更全面的 demo 代码。
尾声
文档解析产品目前正处于内测阶段。正式产品通常有 1000 页的免费试用额度,在内测期间,平台给每位开发者提供每周 7000 页的额度福利,关注公众号《合研社》即可领取。欢迎大家提意见或建议。
同时,也欢迎更多从业者来与合合信息技术团队交流,多多讨论,多多碰撞。
评论