大模型在代码缺陷检测领域的应用实践

2023-11-03
上海
本文字数：3171 字
阅读完需：约 10 分钟

作者 | 小新、车厘子

导读
静态代码扫描(SA)能快速识别代码缺陷，如空指针访问、数组越界等，以较高 ROI 保障质量及提升交付效率。当前扫描能力主要依赖人工经验生成规则，泛化能力弱且迭代滞后，导致漏出。本文提出基于代码知识图谱解决给机器学什么的问题，以及基于代码大模型解决机器怎么学的问题，让计算机像人一样看懂代码，并自动发现代码中的缺陷，给出提示，以期达到更小的人力成本，更好的效果泛化和更高的问题召回。

全文 3519 字，预计阅读时间 9 分钟。

01 代码缺陷检测背景介绍

静态代码扫描(SA)指在软件工程中，程序员写好源代码后，在不运行计算机程序的条件下，对程序进行分析检查。通过在代码测试之前，在编码阶段就介入 SA，提前发现并修复代码问题，有效减少测试时间，提高研发效率，发现 BUG 越晚，修复的成本越大。

MEG 的 SA 能力于 2018 年建立，支持 C++、GO 等语言，建设 100+个规则，覆盖大部分 MEG 的模块，一定程度保障线上质量。当前检测主要依赖人工生成规则，存在人工编写成本高，以及泛化能力弱且迭代滞后，导致问题漏出。2022 年 Q2，我们团队尝试引入大模型：通过代码语言大模型，实现机器自主检测缺陷，提升泛化能力和迭代效率，减少人工编写规则的成本。接下来，为大家带来相关介绍。

02 基于规则的代码缺陷检测主要问题

随着缺陷规则增多，覆盖的语言和模块增多，有两个突出的痛点急需解决：

1、每种规则都需人工根据经验和后续的漏出分析维护，成本较高；以空指针场景为例，人工编写的规则代码共 4439 行，维护的回归 case 共 227 个，但 Q2 仍有 3 个 bug 漏出。我们如何引入大模型减少开发成本，提质增效？

2、有效率偏低，扫描的能力有限(如断链、框架保证非空、复杂场景静态很难识别等，且风险的接受不同，扫描的部分高风险问题存在修复意愿低，对用户造成打扰。我们如何通过模型，从历史误报中学习经验，进行过滤，减少打扰，提升召回？

03 解决方案

为了解决 2 个痛点问题，提出对应的解决方案。

3.1 基于大模型的缺陷自动扫描

如何让计算机像人一样看懂代码，并自动发现代码中的缺陷，给出提示。要让计算机自主进行缺陷检测，核心需要解决 2 个技术难题：

【学什么】 给计算机输入什么内容，能让计算机更快、更好的学习；主要依托代码知识图谱提取目标变量相关的片段，减少机器学习需要的样本量，提升学习的准确性。

【怎么学】 针对输入的内容，采用什么算法，能让机器像人一样读懂多种程序语言，并完成检测任务；采用深度学习的方法，主要包含预训练和微调两部分。预训练技术让计算机在海量无标签的样本中学习到多种语言的通用代码语义，本项目主要采用开源的预训练大模型。微调技术通过给大模型输入缺陷检测的样本，从而得到适配场景的大模型，让机器自主的进行缺陷识别。

3.1.1 代码知识图谱提取片段

为了平衡模型性能和资源，不同大模型允许输入的 token 量级不同，如 Bert 模型限制 512 个 token，因此，需要对输入进行缩减。代码知识图谱是基于程序分析手段，对业务源代码经过模糊或精准的词法分析、语法分析和语义分析后，结合依赖分析、关系挖掘等手段，构建得到的软件白盒代码知识网。图谱提供了多种数据访问方式，用户可以低成本的访问代码数据。

借助于代码知识图谱能力，可以根据不同场景制定不同的与目标变量或目标场景相关的上下文源码获取能力，提取的关键步骤包括：

构建被分析代码的知识图谱
目标变量检测识别：在变更代码中识别目标变量，作为待检测变量
变量依赖分析：基于控制流和数据流的与目标变量相关的依赖变量分析
特征语句提取和剪枝

以空指针风险检测为例，最终得到如下样例的代码切片信息：

3.1.2 采用大模型学习算法进行缺陷预测

大模型检测缺陷有两种思路：

1、一种是通过判别式的方法，识别是否有缺陷以及缺陷类型；

2、一种是通过生成式的方法，构建 prompt，让程序自动扫描所有相关缺陷。

本项目主要采用判别式的方法，并在实践中证明该方法具有一定可行性。生成式的方法同步实验中，接下来分别介绍两种思路的一些实践。

3.1.2.1 判别式的方法

通过分类的思想，基于模型，从历史的样本中学习规律，从而预测新样本的类别。深度学习众多算法中，如 TextCNN、LSTM 等，应该采用哪一种？我们通过多组对比实验，最终选择效果最佳的 BERT 代码大模型。

△模型效果

采用 BERT 进行缺陷检测共含 3 步，分别是预训练、微调和推理。

预训练阶段采用开源的多语言大模型，已较好的学习多种程序语言的语义。
微调阶段，给模型输入上述通过代码知识图谱提取的变量使用点相关的切片，以及是否有缺陷或者缺陷类型的标签，生成微调模型，让机器具备做检测任务的能力。输入的格式:

 { "slices": [{"line":"行代码内容", "loc": "行号"}]， "mark": {"label":"样本标签", "module_name"："代码库名", "commit_id"："代码版本", "file_path"："文件名", "risk_happend_line"："发生异常的行"} }

复制代码

推理阶段，分析使用点目标变量的相关切片，通过微调模型进行预测，得到使用点是否有缺陷，以及缺陷类型

模型上线后，用户对结果反馈状态包括误报和接受，采集真实反馈样本，加入微调模型自动训练，从而到达自动迭代、快速学习新知识的目的。

3.1.2.2 生成式的方法

生成式模型百花齐发，有闭源的如 chatgpt、文心一言，有开源的如 llama、bloom 和 starcode 等。我们主要尝试文心一言、llama 和 bloom，通过 prompt(few shot、引入思维链、指定抽象的引导规则)和微调的方式，探索模型在空指针缺陷检测的预测效果。整体 f1 测度不高，最佳的 bloom61.69%，相比 Bert 路线的 80%有差距，且模型的稳定性较差。因生成式路线有自身的优势，如参数量大存在智能涌现具有更强的推理能力，允许输入的 token 量不断增加可减少对切片清洗的依赖，可与修复一起结合等，我们预判在缺陷检测场景生成式是个趋势，接下来我们将继续优化，不断尝试 prompt 和微调，通过更合适的引导，更好的激发模型的潜力，从而提升生成式方法在检测场景的效果。

3.2 采用规则+机器学习进行误报过滤

缺陷检测场景识别的缺陷是风险，存在接受度问题，如何过滤掉其中低风险问题，是个难题。通过分析误报和修复的样本，我们采集误报相关的特征，如指针类型，模块误报率、文件误报率等跟误报相关的 10+特征，训练机器学习模型(逻辑回归)，判断是否需要过滤.

整体方案架构图如下：

04 业务落地

基于 AI 的代码缺陷检测能力可以集成进入 code 管理平台，每次代码提交，展示可能存在的代码缺陷，阻塞合入，并采集研发人员的反馈，便于模型迭代。

05 收益和展望

5.1 收益

通过理论和实践证明，让计算机自主学习程序语言并完成缺陷检测任务具有一定可行性。

1、本项目的方法已在 IEEE AITest Conference 2023 发表论文:

《Leveraging Deep Learning Models for Cross-function Null Pointer Risks Detection》(https://ieeeaitest.com/accepted-papers/)。

2、实际落地效果：2023Q2 C++空指针场景已覆盖 1100+模块，修复问题数 662 个，相比规则型静态代码扫描召回占比 26.9%，增量召回 484 个，重合度 26.8%，初步证明 AI 的召回能力，打开了大模型做代码缺陷检测的大门，同时也验证大模型具备传统规则的扩召回、低成本的优势，可形成标记+训练+检测的自闭环。