铝型材表面瑕疵识别 -Are you OK? 队 -1- 解决方案

作者：阿里云天池

2024-04-28
浙江
本文字数：2660 字
阅读完需：约 9 分钟

关联比赛: [飞粤云端2018]广东工业智造大数据创新大赛—智能算法赛

本次大赛分为初赛、复赛和决赛三个阶段（9 月 17 日-11 月 22 日），初赛是分类任务，复赛是检测任务，决赛是现场答辩。

经过 2 个多月的算法角逐和决赛答辩，我们团队（Are you OK?）获得了最终的冠军，感谢天池提供的平台。这里着重介绍下复赛的答辩方案，对初赛感兴趣的同学可以参照我们的开源代码。

初赛开源代码1

初赛开源代码2

决赛答辩是比较系统的总结了比赛的方案和试验，所以这里和现场答辩内容重复度较高。

在开始介绍我们的方案之前呢，我们先从参赛队伍的角度来回顾一下这次的赛题。这次的赛题要求在给定的图片中定位出铝材缺陷的位置，并准确识别缺陷的类型，这在计算机视觉中是一个很具有挑战性的质检问题。这里是一些缺陷图片的例子。从数据中可以看到，脏点的占比面积特别小，喷流与背景很相似，擦花很不规则。

我们对主办方提供的数据做了一个大体的分析。左边的柱状图显示了每个类别样本的数目，右边的图显示的是缺陷框大小的粗略统计。我们可以看到，大部分的类别是十分均衡的，脏点这个类的数量较多。缺陷框的大小两级分化比较严重。在这其中，小样本的缺陷框基本上都是脏点的类别，这也是这个赛题的难点之一。

下面我将介绍我们在比赛中采用的具体方案。我们采用二阶检测器 Faster R-CNN 作为我们的基本架构。所谓的二阶检测器，就是先由一个 region proposal network 来生成一些候选框。这些候选框会通过 ROI Pooling 层及两个全连接层提取特征，最终预测缺陷的类别以及再次调整候选框的位置。Faster R-CNN 是在工业界和学术界应用都非常广泛的通用物体检测方案，主要的优势是精度高，速度快。

在这个架构中，我们注意到了一些细节。原始图片的分辨率非常的大，是 19202560。为了减少计算开销，我们首先会将图片缩小两倍之后才作为网络的输入。主干网络我们选取的是 Resnet-101，在整个卷积的过程中，提取到特征的大小相对于输入图片是缩小了 16 倍。也就是说，从原图，到最后一层的卷积特征，空间大小一共下降了 32 倍。由于之后每一个候选框特征会被缩放到 77 的大小，如果说本身缩放前的特征就非常的小，那么缩放之后的特征是不具有判别力的。我们统计了一下数据集中边长<=64 的样本，发现这类小样本占了整个数据集的 10%，这会严重地影响性能。

为了解决这个问题，我们采用了学术界非常常用的特征金字塔结构来对网络进行改进。我们总结了一下，特征金字塔在这个任务中具有两个优点：第一，从这个示意图我们可以看到，低层的特征进过卷积，上采样操作之后和高层的信息进行融合在卷积神经网络中，高层，也就是后面的特征具有强的语义信息，低层的特征具有结构信息，因此将高低层的信息进行结合，是可以增强特征的表达能力的。第二，我们将候选框产生和提特征的位置分散到了特征金字塔的每一层，这样可以增加小目标的特征映射分辨率，对最后的预测也是有好处的。

我们采用的第二个改进方案是 Deformable Convolutoin 可变形卷积。我们发现在数据集中，铝材的瑕疵有很多是这种条状的，传统正规的正方形结构的卷积对这种形状的缺陷处理能力还不够强。因此我们采用了可变形的卷积，在卷积计算的过程中能够自动地计算每个点的偏移，从而从最合适的地方取特征进行卷积。右边的示意图大致描述了可变形卷积的过程，它能够让卷积的区域尽可能地集中在缺陷上。

具体实现上，我们将原本 resent 结构的最后一个 block 改成了可变卷积，原因是在可变卷积的实现中，需要基于前面的特征来学习一个偏移，前面的特征得足够强才能保证这个偏移不会乱学，因此我们只改动了最后一个 block。总体的框架还是跟前面 FPN 的一样。

我们的第三个改进方案，是在提取 ROI 特征的时候，引入了 context 上下文信息，我们把这个操作叫做 contextual roi pooling。我们用上面两个例子来说明上下文信息的好处。Faster R-CNN 是一个先生成候选框，然后精调候选框的过程，那么第一步生成的候选框势必会有偏大或者偏小的情况。之前的方法可以理解成用框内部的信息来推断框的位置，左边这个例子是框偏大的情况，根据内部信息是可以知道框应该往里调的，但是右边这个例子框偏笑了，我们能知道该往外调整，但是该调多少呢这个是无从知晓的。因此一个显而易见的想法，就是把整张图片的信息也送给这个候选框当特征，这样相当于让每个候选框以整张图片作为参考，这样呢每个框就知道该往哪调了。

具体的实现是这样，我们把整张图片也作为一个 roi，用同样的 ROI Pooling 提取全局的特征，然后跟每一个候选框的特征相加，再进行后面的分类和回归操作。这样的实现只多进行了一个 roi 的特征提取和一个特征相加的操作，却能大大地提升准确率。

下面我们介绍一下网络训练过程中的一些细节。数据集里面是有提供无缺陷样本的，我们也对这些图片进行了使用。在检测器的训练过程中，有一步是正负样本的选择。我们在训练的时候使用了一个策略，每次会随机选择一张缺陷样本和一张无缺陷样本，然后训练的正样本会在缺陷图片中选择，负样本会在两张图片中都选择，两张图片的所有正负样本合起来做一个 OHEM，再进行后面的训练操作。这样的好处是，充分利用了无缺陷样本，增大了模型判别背景信息的能力。