中软协 AI 沙龙热议：智领云 CEO 彭锋解读 AI 大模型技术的应用前景与趋势

全球范围内，人工智能大模型技术正以前所未有的深度和广度渗透到各行各业，其广泛应用前景及发展趋势成为业界焦点。高盛预计生成式 AI 将推动未来 10 年全球 GDP 增长 7%，约合近 7 万亿美元。Gartner 发布 2024 年十大战略技术趋势，预计到 2026 年将有超过 80%的企业使用生成式 AI。

无论是国内还是国际领域，AI 大模型技术的研发与应用呈现强劲势头。在这种快速扩展的生态体系中，我们需要明确定位我们的工作，了解国内外大模型技术发展的情况和未来的趋势，以确保我们的价值不会被不断扩展的大模型的能力所替代。

为此，由中国软件行业协会智能应用分会主办，清华校友总会 TMT 专委会联合主办的 AI 沙龙，于 2024 年 3 月 28 日在清华科技园隆重召开，中国软件行业协会智能应用分会秘书长邱钦伦，智领云科技联合创始人兼 CEO 彭锋，作为本次沙龙的演讲嘉宾，与在场的 50 余位企业家、投资人、创业者、技术爱好者，共同探讨了国内外 AI 大模型技术应用的发展新趋势。

如果说 2023 年很多项目还属于尝试的范畴，进入 2024 年大模型基础架构的能力，场景应用的落地都在加速。智领云联合创始人兼 CEO 彭锋在《国内外大模型技术应用前景与趋势》主题演讲中表示，在这种快速扩展的生态体系中，首先我们要理解大模型的能力边界，大模型具有强大的归纳与生成能力，但在推理与答案的可控性上较弱。除了架构决定的能力边界之外，诸如私有化实时数据的支持，权限管理等企业级特性，也是基础大模型本身无法解决的。

彭锋博士

“所以不必恐慌，定位好自己的工作，我们不但不会被取代，反而还有很多工作需要去做。”彭锋博士表示。这就是为什么基于大模型边界，在硅谷有非常多的企业在不同层次上作出创新，并获得了很多的发展机会。

A16Z 提出的 LLM 的应用及工程化的工具生态体系（LLMOps）

例如，有一种思路是将大模型当作一个 CPU，在周边提供相应的功能组件，形成一个基于大模型的操作系统，以 agent 的形态来提供应用功能。

大模型操作系统

在针对“如何最有效的利用大模型生态的发展来实际提高我们的工作效率？”这一问题上，彭锋博士直言，来自大模型技术的巨大冲击和革命性的 AI 能力，也让智领云团队看到持续学习和创新的必要，并在过去一年有很多探索和尝试。智领云深入思考如何将大模型融入到企业级服务中，而非简单的加入一些对话功能给客户，我们认为“在企业级智能化应用方向上，数据+文档的结合将会是未来的方向”。

“文档”作为企业的核心数字资产之一，目前一般仅是简单的关键字查询，很难转换成生产力。基于此，企业需要将 IT 架构，数据架构，文档/模型架构打通，将基于数据/文档的大模型能力融入到 IT 体系的各个方面，利用大模型构建的智能引擎实现 IT 能力的智能化。

全局 IT 架构 数据+文档驱动的智能化应用

作为业界公认的可以弥补大模型能力缺陷的必须技术--检索增强生成(RAG)技术。智领云团队采用 RAG 技术，将其原创的数据流水线技术扩展到文档处理流水线，可以有效地解决大模型的一些局限性问题，从而提高大模型的实时数据处理等能力。

基于检索增强的生成 （RAG）

国内外大模型技术的发展呈现出规模化、精细化、融合化的特点，不仅将持续赋能各行业创新发展，还将深度参与并塑造未来智慧社会的建设。我们有理由相信，在不久的将来，AI 将以更加普惠的方式深刻改变人们的生活，开启一个全新的智能时代。