多模态内容理解算法框架项目 Lichee 正式开源，为微服务开源社区贡献力量

导语｜Lichee 是一个多模态内容理解算法框架项目，其中包含数据增强、预训练引擎、常见模型以及推理加速等模块。由腾讯看点内容算法研发中心研发。并于 2021 年在腾讯看点、腾讯视频、内容管线、QQ 等业务场景均有落地，并平均减少标注样本量 40%+。经过多次实践迭代，可以大幅缩短信息流内容理解需求的研发周期提升人效。此外，为 QQ 浏览器 2021AI 算法大赛-多模态视频相似度赛道提供 baseline 模型及代码。现将 Lichee 对外开源，为微服务开源社区贡献力量。

一、主要设计目标

1. 缩短信息流内容理解需求的研发周期

2. 集成 AI 领域的成熟解决方案

二、Lichee 功能介绍以及适用场景

Lichee 主框架采用分层的思想组织模型训练，通过配置文件组合 DATA、Parser、MODEL、Optimizer、Scheduler 等组件，构建具体的训练流程。此外，Lichee 还提供了数据清理、推理加速等能力。

Lichee 技术特点

1. 性能优越的预训练引擎

提供了自研中文预训练模型，如 LICHEE-NLG-ENGINE、LICHEE-RESNET-ENGINE 等，免除训练中文预训练模型必须的大量资源和高质量语料库的限制。LICHEE / ShenZhou 预训练模型先后于 2021 年 1 月 8 号和 2021 年 9 月 19 号登顶中文 NLP 权威榜单 CLUE。相关技术创新在 NLP 顶会 ACL 2021 发表文章(https://arxiv.org/pdf/2108.00801.pdf)。

2. 基于配置化的模型训练

满足 90%+业务场景仅通过配置即可完成模型训练任务。

3. 提供二次开发能力

提供了基于插件的二次开发能力，来满足更复杂的特殊业务场景。

4. 数据增强

为了进一步降低任务样本的数量，提供了数据增强插件，解决脏数据清洗和数据生成等方面的工作。

5. 能力插件

提供了更多的结构化能力插件，如词法分析工具 LICHEE-LAC、句子相似度工具 LICHEE-SIM、人脸识别工具等。

6. 推理加速

集成推理加速的能力，能够降低业务模型的实际部署成本。

四、Lichee 项目规划

1. 扩充各领域的预训练模型

2. 扩充训练加速、推理加速能力

3. 兼容 hugging face 项目

4. 提升项目的易用性、开放性及效率

五、Lichee 开源地址

https://github.com/Tencent/Lichee

欢迎提出你的 issue 和 PR！

本文转载自：腾讯开源 公众号

作者：腾讯开源