【AIOps】一种全新的日志异常检测评估框架：LightAD，相关成果已被软工顶会 ICSE 2024 录用

深度学习（DL）虽然在日志异常检测中得到了不少应用，但在实际轻量级运维模型选择中，必须仔细考虑异常检测方法与计算成本的关系。具体来说，尽管深度学习方法在日志异常检测方面取得了出色的性能，但它们通常需要更长的时间来进行日志预处理、模型训练和模型推断，从而阻碍了它们在需要快速部署日志异常检测服务的在线分布式云系统中的采用。

本文对现有的基于经典机器学习和深度学习方法的日志异常检测方法进行了实证研究，并提出了一种自动化日志异常检测评估框架 LightAD。

1. 日志异常检测介绍

日志是 AIOps 领域需要处理的常见数据，是程序运行过程中由代码打印出的一些非结构化的文本信息，日志通常由时间戳和文本信息组成。日志实时记录了系统的运行状态，包括正常运行状态和故障发生时的状态。因此通过收集和分析日志，可以快速检测和定位出系统中存在的异常。

本文研究了深度学习方法在日志异常检测中与更简单技术相比的优越性，在五个公共的日志异常检测数据集上对轻量级传统机器学习方法（如 KNN、SLFN）和深度学习方法（如 CNN、NeuralLog）进行了全面的评估。

本文的研究结果表明，通过合适的数据处理方式，轻量级机器学习方法能够在时间效率和准确性方面都优于深度学习方法。为了评估深度学习方法的必要性，本文提出了一种自动化的日志异常检测模型评估框架 LightAD。LightAD 是一种基于贝叶斯优化器的优化训练时间、推断时间和性能得分的评估框架。通过自动化超参数调优，LightAD 可以实现在日志异常检测模型之间进行公正的比较，使运维工程师能够针对不同的在线异常检测目标来选择合适的异常检测模型。

2. 对现有方法的全面评估

深度学习方法除了本身拥有更多的参数量外，其使用的数据处理方式通常也比较耗时。例如，CNN 方法需要使用日志解析工具对日志进行解析，NeuralLog 需要用深度语言模型 BERT 来对日志进行处理。本文对轻量级传统机器学习方法采用了更高效的日志处理方式。

具体而言，本文在处理以日志块来聚合的数据集（如 HDFS）时，从每个文本日志消息中提取标记，以空格分隔，并删除包含数字的标记。本文使用每个块的 ID 将日志消息分组成日志序列，并用事件频率对其进行编码。整个预处理工作流程如下图所示。

3. 全新的日志异常检测评估框架：LightAD

为全面综合评估日志异常检测算法，本文提出了基于贝叶斯优化起的自动化算法优化和评估框架 LightAD，LightAD 结构如下图所示。本文首先准备了一组简单的基准模型及其初始的超参数空间，对于每个模型，本文会自动化的优化模型的超参数。通过综合考虑三个维度的模型收益打分：

（1）准确性

（2）每个日志序列的训练时间

（3）每个日志序列的推断时间

最终抉择出模型收益分数最高的异常检测算法。

模型收益的多目标优化公式如下：

下图是在去除重复数据的 HDFS 数据集上使用 LightAD 进行异常检测方法优化和评估的结果，最高模型收益的分数由黑色加粗标识。从图中可以看出，LightAD 挑选出的模型都是轻量级的机器学习方法。

4. 总结

本文来自华为云 PaaS 技术创新 Lab 和香港中文大学（深圳）贺品嘉助理教授团队合作项目成果产出，相关研究成果已被软件工程领域顶会 ICSE 2024（CCF A 类）正式录用，文章详细内容即将公开，敬请关注。