解锁数据潜力：信息抽取、数据增强与 UIE 的完美融合
解锁数据潜力：信息抽取、数据增强与 UIE 的完美融合
1.信息抽取（Information Extraction）
1.1 IE 简介
信息抽取是 NLP 任务中非常常见的一种任务，其目的在于从一段自然文本中提取出我们想要的关键信息结构。
举例来讲，现在有下面这样一个句子：
新东方烹饪学校在成都。
我们想要提取这句话中所有有意义的词语，例如：
这个关键词提取任务就叫做**命名实体识别（Named Entity Recognition, NER）**任务，文中的「新东方烹饪学校」和「成都」就被称为实体（Entity）。
如果我们还想进一步的知道这些词语之间的关系，例如：
这种提取实体之间关系的任务就叫做**关系抽取（Relation Extraction, RE）**任务。
1.2 信息抽取的几种方法
1.2.1 序列标注（Sequence Labeling）
序列标注通常是指对文中的每一个字（以下简称 token）进行分类，即本质是 token classification 任务。
我们对第一小节中的例子做序列标注任务，得到的结果如下：
可以看到，我们对句子中的每一个字（token）都打上了一个类别标签，我们期望模型要做的事就是去学会每一个字所属的类别是什么。
Note: 这里用的标注方法是「BIO 标记法」，其中「B-」代表该位置 token 是某一个实体词语（span）的起始 token；「I-」代表该位置 token 处于某一个词语的中间（或结尾），「O」则代表该位置 token 不在任何一个实体词语中。除了「BIO 标记法」外，还有许多其他的标注方式（如 BIOES 等），其本质思路都很类似。
1.2.2 指针网络（Pointer Network）
序列标注模型有一个天然的缺陷，无法解决解决实体重叠（overlap）的问题。
举例来讲，如果今天我们不仅要提取「机构」，还同时要提取「机构类型」，那么我们期望的提取结果应该为：
可以看到，对于「学校」这两个字，即属于「新东方烹饪学校」（机构）这个词，也存在于「学校」（机构类型）这个词，那我们在给这两个字打标签的时候，究竟应该打成哪个类别呢？
由此我们可以看到，因为在进行分类时我们通常对一个字（token）只赋予一个标签，这就导致了 token classification 不能很好的解决实体重叠（一字多标签）的复杂情况。
Note: 存在一些技巧可以解决该问题，例如可以从单字单分类（CE）衍生到单字多分类（BCE），这里不展开讨论。
指针网络（Pointer Network）通过分别对每一个实体单独做预测来解决了实体之前的重叠冲突问题。
例如，我们现在要同时预测「机构」和「机构类型」这两个实体，那么我们就可以设计一个多头网络（Multi-Head）来分别预测这两个实体的实体词。
其中，
「机构」实体头中「起始」向量代表这一句话中是「机构」词语的首字（例子中为「新」）；
「机构」实体中「结束」向量代表这一句话中时「机构」词语的尾字（例子中为「校」）。
通过「起始」和「结束」向量中的首尾字索引就能找到对应实体的词语。
可以看到，通过构建多头的任务，指针网络能够分别预测「机构」和「机构类型」中的实体词起始 / 终止位置，即「学校」这个词语在两个任务层中都能被抽取出来。
1.3. UIE —— 基于 prompt 的指针网络
1.3.1 UIE 中的 prompt 是什么？
多头指针网络能够很好的解决实体重叠问题，但缺点在于：不够灵活。
假定今天我们已经通过指针网络训练好了一个提取「机构」、「机构类型」的模型，即将交付时甲方突然提出一个新需求：我们想再多提取一个「机构简称」的属性。
草（一种植物）。
从 2.2 节中的示意图中我们可以看到，每一个实体类型会对应一个单独的网络头。
这就意味着我们不仅需要重标数据，还需要为新属性添加一个新的网络头，即模型结构会随着实体类型个数改变而发生变化。
那，能不能有一种办法去固定住模型的结构，不管今天来多少种类型要识别都能使用同样的模型结构完成呢？
我们思考一下，模型结构变化的部分是和实体类型强绑定的「头」部分。
而不同「头」之间结构其实是完全一样的：一个「起始」向量 + 一个「终止」向量。
既然「头」结构完全一样，我们能不能干脆直接使用一个「头」去提取不同实体类型的信息呢？
不同「头」之间的区别在于它们关注的信息不同：「机构头」只关注「机构」相关的实体词，「城市头」只关注「城市」相关的实体词。
那么我们是不是可以直接在模型输入的时候就告诉模型：我现在需要提取「某个头」的信息。
这个用来告诉模型做具体任务的参数就叫 prompt，我们把它拼在输入中一并喂给模型即可。
通过上图可以看到，我们将不同的「实体类型」作为 prompt 参数喂给模型，用于「激活」模型参数跟当前「实体类型」相关的参数，从而输出不同的抽取结果。
Note: 「通过一个输入参数去激活一个大模型中的不同参数，从而完成不同任务的思路」并不是首次出现，在 meta-learning 中也存在相关的研究，这里的 prompt 参数和 meta-parameter 有着非常类似的思路。
通过引入 prompt，UIE 也能很方便的解决实体之间的关系抽取（Relation Extraction）任务，例如：
1.3.2 UIE 的实现
看完了基本思路，我们来一起看看 UIE 是怎么实现的吧。
模型部分
UIE 的模型代码比较简单，只需要在 encoder 后构建一个起始层和一个结束层即可：
** 训练部分**
训练部分主要关注一下 loss 的计算即可。
由于每一个 token 都是一个二分类任务，因此选用 BCE Loss 作为损失函数。
分别计算起始 / 结束向量的 BCE Loss 再取平均值即可，如下所示：
该项目将借用 transformers 库来实现 paddlenlp 版本中 UIE，已实现：
[x] UIE 预训练模型自动下载
[x] UIE Fine-Tuning 脚本
[x] 信息抽取、事件抽取数据增强（DA）策略（提升 recall）
[x] 信息抽取、事件抽取自分析负例生成（Auto Neg）策略（提升 precision）
环境安装
本项目基于 pytorch + transformers 实现，运行前请安装相关依赖包：
<br>
2. 数据集准备
项目中提供了一部分示例数据，数据来自 DuIE 数据集中随机抽取的 100 条，数据在 data/DuIE 。
若想使用自定义数据训练，只需要仿照示例数据构建数据集构建 prompt 和 content 即可：
doccano 导出数据如下所示：
可以运行 doccano.py 来将标注数据（doccano）转换为训练数据（prompt）。
3. 模型训练
修改训练脚本 train.sh 里的对应参数, 开启模型训练：
正确开启训练后，终端会打印以下信息：
在 logs/UIE Base.png 文件中将会保存训练曲线图：
4. 模型预测
完成模型训练后，运行 inference.py 以加载训练好的模型并应用：
NER 和事件抽取在 schema 的定义上存在一些区别：
NER 的 schema 结构为
List类型，列表中包含所有要提取的实体类型。信息抽取的 schema 结构为
Dict类型，其中Key的值是所有主语，Value对应该主语对应的所有属性。事件抽取的 schema 结构为
Dict类型，其中Key的值是所有事件触发词，Value对应每一个触发词下的所有事件属性。
得到以下推理结果：
5. 数据增强（Data Augmentation）
信息抽取/事件抽取的数据标注成本较高，因此我们提供几种针对小样本下的数据增强策略。
包括：
正例：SwapSPO、Mask Then Fill
负例：自分析负例生成（Auto Neg）
所有实现均在 Augmenter.py 中，为了便于使用，我们将其封装为 web 服务以方便调用：
平台使用 streamlit 搭建，因此使用前需要先安装三方包：
随后，运行以下命令开启标注平台：
在浏览器中访问 ip + 端口（默认 8904）即可打开标注平台。
<br>
5.1 正例：SwapSPO 策略介绍
Swap SPO 是一种基于规则的简单数据增强策略。
将同一数据集中相同 P 的句子分成一组，并随机交换这些句子中的 S 和 O。
策略输入：
《夜曲》 是 周杰伦 作曲 的一首歌。
《那些你很冒险的梦》 是当下非常火热的一首歌，作曲 为 林俊杰。
Swap SPO 后的输出：
《夜曲》 是当下非常火热的一首歌，作曲 为 周杰伦。
5.2 正例：Mask Then Fill 策略介绍
Mask Then Fill 是一种基于生成模型的信息抽取数据增强策略。
对于一段文本，我们其分为「关键信息段」和「非关键信息段」，包含关键词片段称为「关键信息段」。
下面例子中标粗的为 关键信息片段，其余的为 非关键片段。
大年三十 我从 北京 的大兴机场 飞回 了 成都。
我们随机 [MASK] 住一部分「非关键片段」，使其变为：
大年三十 我从 北京 [MASK] 飞回 了 成都。
随后，将该句子喂给 filling 模型（T5-Fine Tuned）还原句子，得到新生成的句子：
大年三十 我从 北京 首都机场作为起点，飞回 了 成都。
Note: filling 模型是一个生成模型，示例中我们使用中文 T5 微调得到 DuIE 数据集下的模型（暂未开源）。您可以参考 这里 微调一个更适合您自己数据集下的 filling 模型，并将训练好的模型路径填写至 web_da.py 中对应的位置。
5.3 负例：自分析负例生成（Auto Neg）策略介绍
信息抽取中通常会存在 P混淆 的问题，例如：
王文铭，76 岁，是西红市多鱼村的大爷。
当我们同时生成 年龄 和 去世年龄 这种非常近义的 prompt 进行抽取时，可能会出现 误召回 的情况：
因此，我们基于一个已训练好的模型，自动分析该模型在 训练集 下存在哪些易混淆的 P，并为这些 P 自动生成负例，以提升模型的 Precision 指标。
将新生成的负例加入 原始训练数据集，重新训练模型即可。
5.4 各种 DA 策略的实验效果
在 DuIE 100 条数据下测试，各种 DA 策略的效果如下所示（以下 P / R / F1 均取 F1 最高的 Epoch 指标）：
paddle 官方：https://github.com/PaddlePaddle/PaddleNLP/tree/develop/model_zoo/uie
https://github.com/HarderThenHarder/transformers_tasks/blob/main/UIE
更多优质内容请关注公号：汀丶人工智能；会提供一些相关的资源和优质文章，免费获取阅读。
版权声明: 本文为 InfoQ 作者【汀丶人工智能】的原创文章。
原文链接:【http://xie.infoq.cn/article/b82ec5334c73b0e14cba8885e】。
本文遵守【CC-BY 4.0】协议，转载请保留原文出处及本版权声明。
本博客将不定期更新关于NLP等领域相关知识 2022-01-06 加入
本博客将不定期更新关于机器学习、强化学习、数据挖掘以及NLP等领域相关知识，以及分享自己学习到的知识技能，感谢大家关注！
评论