写点什么

快准稳的文档解析工具,帮助构建性能优越的金融领域知识库问答产品

  • 2024-06-11
    上海
  • 本文字数:2435 字

    阅读完需:约 8 分钟

快准稳的文档解析工具,帮助构建性能优越的金融领域知识库问答产品

 随着大模型应用落地速度加快,企业级应用相关技术模块日渐成熟,在各个行业领域,企业改革现有业务流程与生产方式、使用 AI 提高运作效率的可行性大幅度提升。其中,金融行业作为数据密集、更新快速的代表性行业之一,经常与前沿 IT 科技强绑定,是企业级技术更新的先锋领域。

以目前相当热门的企业知识库问答产品为例,各大银行、券商已逐步开启引入 AI 技术提升工作效率的尝试。2024 年初,邮储银行开始为一线柜台工作人员提供 AI 问答系统,并计划在年内接入信贷平台、业务前端,扩大系统适用范围;农业银行申请了智能问答方法专利,可实现精准自动学习回答问题。同时,更多中小型机构看到 AI 带来的业务效率增益可能性,企业的数字化需求能够以低成本、便捷的方式实现。

AI 的风吹遍金融行业。略过泛泛而谈,我们希望探讨,在实际业务场景中,知识库问答产品能起到什么作用?要落地企业级应用,目前的技术能实现怎样的产品性能?

1 LLM 时代的金融知识库问答:不止是“知识集合”

知识库(Knowledge Base)是一个存储、组织和提供知识信息的系统,通常具有结构化、访问便捷、动态更新、多源整合等特点。

知识库在金融行业的应用起源于金融信息化的早期阶段。伴随信息技术的发展,金融机构开始意识到有效管理和利用信息资产的重要性。最初,知识库的应用主要集中在信息收集和存储上,目的是为了提高检索的效率和准确性。传统的知识库通过关键词匹配等手段实现知识分类与检索,其构建及更新维护往往需要花费大量的人力和时间成本,且仍然存在规则较为呆板、知识提取不便等问题。

在金融业务复杂化和金融产品多样化的过程中,金融机构需要寻求更高级的知识管理和分析工具。知识库开始集成更复杂的信息处理技术,例如数据挖掘、机器学习和自然语言处理。

LLM 时代,知识库已经成为金融领域的重要组成部分。金融机构利用知识库进行研报解读、产品推荐、风险控制、合规性检查等,帮助从业人员提高决策的精确性和效率。目前,金融机构正在使用 LLM 技术构建更为复杂和动态的知识管理系统,以实现对行业信息的深度挖掘和实时分析。

从金融机构与企业需求端出发,企业需要实现:1)知识资产管理:对企业既有及后续获得的更新知识完成自动化文档信息分类管理,降低人工信息整理成本;2)搜索效率提升:快速准确地获取并利用特定领域的知识和信息,在传统搜索引擎的基础上智能判别剔除冗余信息,整合高质量信息,以提高决策效率和质量;同时,知识库问答产品有能力主动给出建议与关联资料,协助从业人员及时获取有效信息;3)沟通协助:面对与客户、合作伙伴沟通过程中的多样化问题,知识库问答可以为一线工作人员提供强有力的信息支持。

在实际业务场景中,知识库问答产品能够扮演智能助手的角色,帮助金融从业人员及时获取所需信息和资源。一方面,系统能够快速查询数据库,检索详尽的产品信息,省去人工查找确认时间;另一方面,它也能即时访问监管指南和政策文件,提供风险及合规方面的实时支持。因此,表现较好的知识库产品能显著提升工作效率,让从业人员能够将更多时间和精力投入到业务发展和客户服务等事项上,并加强工作质量与合规性。

2 文档解析能力,对知识库问答产品很重要吗?

在金融这类强专业性、知识密集型领域,知识库问答产品的信息来源具有多样化的特点:信息来自互联网实时开放信息、行业知识图谱与企业闭源知识库等。公告、财报、研报文件格式涵盖 PDF、Word、网页、图片,其中包含大量扫描版文档,需要经由解析工具的处理输入知识库存储,以便抽取调用。

在这一问题上,企业级知识库问答产品与目前针对 C 端的大模型问答产品面对同样的难点:如何实现快速、准确的文档解析?

金融知识库文档构成中,机构研报、企业财报、年报等类型占到相当高的比例,这些文件大多具有复杂的版式,机器读取难度较高。文档解析过程中涉及众多技术难点,复杂版面结构、多文档元素、页眉页脚、多栏布局、无线表格与合并单元格都属于需要攻克的难关。以年报、研报文件举例来说:

1.有线、无线表格与合并单元格:扫描文件中各类复杂表格形式为文档解析提出了识别重构难题。



2.多栏布局:研报及网页抓取结果的常见情况,要求文档解析还原正确阅读顺序。



3.页眉页脚形式:页眉页脚可能包含多种形式、内容,在部分情况下,还会包含大量注释,需要准确识别并与正文加以区分。



那么,当前 To C 产品在这一领域表现如何呢?文档解析工具的差异又会对问答产品性能产生怎样的影响?

我们进行了一个简单的测试。

首先,在国内某通用大模型问答 C 端产品上传一份 PDF 版企业年报,并提出金融分析领域的常见问题:请介绍公司的资产结构。

大模型给出了多个方面的介绍,但答案较为笼统,并未包含具体的数据信息。

我们尝试替换文档解析工具,将 PDF 文件上传至 TextIn 平台进行解析,并把解析后的 Markdown 文件上传,向大模型提出同一个问题。此次,大模型给出了资产规模、净资产等数据信息。




我们回到年报原文档进行验证,以排除幻觉干扰。在以下表格中可以看到,在改变解析工具后,大模型的回答来自于年报中表格数据,信息准确。



在这一类案例中,文档解析工具性能对问答类产品表现的影响显著可见。相比当前产品,企业级金融知识库产品要求更高的效率与准确率,容错性更低,这也意味着从解析到检索召回,产品对各个模块的技术要求将再次提高。

TextIn 文档解析具备快速、准确、兼容性强的特点,为企业知识库产品开发提供有力的支持,保障知识库构建与数据更新的重要环节,让开发工作没有“后顾之忧”。

3 便捷试用 TextIn 文档解析

合合信息文档解析产品已经上架到 TextIn 平台,任何开发者都可以注册账号并开通使用。

打开链接即可访问产品页面:https://www.textin.com/market/detail/pdf_to_markdown

目前,TextIn 文档解析支持在线试用,开发者也可进行 API 调用,有更多使用问题咨询,请关注公众号《合研社》,获取 demo 代码,随时与技术团队交流。

文档解析产品目前正处于内测阶段,内测期间,为每位开发者提供每周 7000 页的额度福利,关注公众号《合研社》即可领取。欢迎大家与我们团队多多沟通,提出意见或建议。

用户头像

上海合合信息科技股份有限公司人工智能团队 2022-08-01 加入

在上海市领军人才合合信息董事长镇立新博士带领下,于复杂场景文字识别、智能图像处理、自然语言处理等人工智能领域拥有10 余年研发创新与技术积累,具备专业的行业理解与技术成果。

评论

发布
暂无评论
快准稳的文档解析工具,帮助构建性能优越的金融领域知识库问答产品_金融_合合技术团队_InfoQ写作社区