写点什么

带你认识 7 种云化测试武器

  • 2022 年 1 月 04 日
  • 本文字数:4485 字

    阅读完需:约 15 分钟

摘要:本篇将结合华为云优秀实践,重点讲解七种云化测试常见方法。对于测试人员了解并熟悉云化全流程持续测试,具有指导意义。

 

本文分享自华为云社区《云化测试七种武器》,作者:  敏捷小智。

 

本文首先介绍了云化测试基本概念。之后,解释了测试左移、测试右移、高度自动化和智能化、数据驱动四项基本原则。最后,结合华为云 Devcloud 的优秀实践,重点讲解了服务接口测试、在线全链路压测、Mock 服务、Web 全自动化测试、现网导流测试、现网拨测和 AI 辅助质量评估,七种云化测试常见方法。对于测试人员了解并熟悉云化全流程持续测试,具有指导意义。

1、云化持续测试基础知识

1.1 什么是云化持续测试


云化持续测试,是指基于云平台和测试自动化、智能化技术,对云原生应用进行持续、高效测试。


图 1:基于云和 AI 技术的云化持续测试

云化测试和传统测试的区别,主要体现在测试对象、测试架构和测试效能的不同。


图 2:云化测试与传统测试的区别


1.2 云化测试四项基本原则


目前业界和华为公司的云化测试基础理念,可以总结成四项原则,水平维度,在测试生命周期上,推荐测试左移和右移。垂直维度上,在测试方法和基础数据上,推荐自动化、智能化与数据驱动。

1、测试左移:尽早开展测试,加强开发者测试。

2、测试右移:线上测试,覆盖发布和线上运行阶段。

3、高度自动化:测试设计、执行、分析自动化,减少全流程人力投入

4、数据驱动:利用数据对产品质量进行自动的反馈评估并持续改进


图 3:云化测试四项基本原则

1.2.1 原则一:测试左移

测试左移,鼓励尽早开展测试、加强开发自测试、加强接口测试。通过契约测试,解耦前后端和服务间开发依赖


图 4:测试左移

1.2.2 原则二:测试右移

测试右移,开展线上测试。在真实环境中进行测试,有效补充研发环境无法开展的测试场景。以业界在线测试开展较好的微软公司为例,在线测试可以进行如下维度的划分:

被动

  • 被动监控:观察目标系统

-数据挖掘

-性能监控

-环境验证

  • 试验:观察用户行为

-A/B 设计

-新版本质量验证

-狗粮/Beta

主动

  • 主动监控: 基于用例

-API 测试

-用户场景测试

  • 系统可靠性

-压力测试

-破坏性测试


图 5:在线测试分类

1.2.3 测试左移右移之后的金字塔模型

理论上,测试金字塔模型中,单元测试比重最大,然后依次是集成测、端到端测试和 UI 测试。但是,多个测试团队在实践中发现,单元测试开展的难度和代价较大,需要有充分的预留时间和专业的单元测试知识,才能高质量开展单元测试。在实际测试中,很多团队正在探索由金字塔模型向纺锤模型的演进,即减少单元测试,增强接口测试、契约测试、在线测试。


图 6:由金字塔模型向纺锤模型的演进

1.2.4 原则三:高度自动化与智能化

尽量减少手工测试和手工操作。测试自动化不仅仅包括自动化测试执行,还包括其他所有可以减少人力投入的活动,例如自动化环境创建,自动化部署,自动化监控等。通过 AI 辅助用例自动生成、结果智能分析等能力,提升测试效率,助力高度自动化的达成。


图 7:高度自动化

1.2.5 原则四:数据驱动质量提升

利用内部研发数据和外部用户数据对产品质量进行自动的反馈评估

被测对象多层次的打点设计、各种方式采集用户的反馈数据、基于业务的指标模型设计


图 8:数据驱动质量提升

接下来,将结合华为云优秀实践,重点讲解服务接口测试、在线全链路压测、Mock 服务、Web 全自动化测试、现网导流测试、现网拨测和 AI 辅助质量评估,七种云化测试常见方法。对于测试人员了解并熟悉云化全流程持续测试,具有指导意义。

2、云化测试七种武器

2.1 云化测试全景图


基于云化测试基础理论和云化测试的原则,可以发展出很多实用的云化测试方法和实践。结合研发模式和角色,形成云化测试全景图。


图 9:云化测试全景图

2.2 云化测试七种武器


以服务接口测试能力为核心,构建七种云化测试核心能力。导流测试导入现网真实接口场景,解决研发环境测试场景覆盖问题。通过 Web 自动化测试记录接口调用链。全链路压测可以复用功能测试用例,Mock 服务实现接口依赖替换,现网拨测复用研发用例,有效看护现网质量,接口测试为 AI 复制质量评估提供原始数据,并从质量评估获得持续反馈。


图 10:云化测试七种武器

2.2.1 云化测试七种武器之一:服务接口测试

接口测试,主要负责测试系统间的交互接口的测试。主要测试后端、微服务接口和 API,和界面测试相比,稳定性、效率高。测试测试又可进一步划分成单接口测试和多接口组合测试。

单接口测试,制定接口测试覆盖策略,全部 or 部分覆盖,使用等价类划分、边界值分析等方法设计单个接口的测试用例。


图 11:单接口测试

多接口组合测试,先后调用多个关联的接口,测试接口组合起来可以正确完成一个用户场景


图 12:多接口组合测试

API 接口测试有三个指导原则,即同源、独立测试和 100%自动化测试。

1. 同源: 就是设计、开发、测试三个活动基于同一源头开展

2. 独立测试: DevOps 模式下,50%+服务涉及服务依赖,服务自测试前移到开发自测试阶段开展,创建 Mock 服务使环境解耦,否则微服务独立测试难以开展

3. 100%自动化测试:在开发自测试阶段,开发人员时间有限,为了提高转测效率应该尽量高效使用自动化,也就是说能自动化解决的工作尽量自动化解决,就是我们倡议的 100%自动化


实践:DevCloud 接口自动化测试

使用 DevCloud 测试工具 APITest 进行接口和接口级场景功能自动化测试,结合华为优先研发实践和研发理念,测试用例免代码编写、一键导入 swagger 接口定义自动生成脚本模板,基于脚本模板组装编排、管理接口自动化测试用例。


图 13:DevCloud 接口自动化测试

DevCloud 接口自动化测试的主要优势:

1、简单

• 0 编码开发成本

• 0 环境搭建成本

• 2 步接口测试

• 1 步性能测试性能

2、高效

• 可视化编排测试用例

• 测试关键字批量复用

• 云端弹性资源池

• 实时反馈测试结果

3、专业

• HTTP 等 4 种 API 协议

• 高级测试场景编排

• X 类 XX+预置检查点

• 多环境测试参数管理

• 流水线持续自动化测试


2.2.2 云化测试七种武器之二:在线全链路压测

在线全链路压测目前在业界的主流互联网公司均在开展,主要目的是使用真实的现网环境,模拟流量突发时,识别整个调用链路中的性能瓶颈。

在线全链路压测的核心是如何做好测试流量识别和隔离,避免对生产环境用户正常使用造成影响。需要解决以下关键问题:

• 流量标记

• 数据隔离

• 外部服务隔离

• 资源/KPI 监控

• 压测流量调整

• 调用链辅助分析

• 业务低峰执行

• 数据清理


图 14:在线全链路压测

在线全链路压测需要对被测系统进行调整。上图中,蓝色部分为测试组件,压测平台控制中心发起压力,经过压测负载均衡,进入被测云服务环境,外围依赖服务采用 Mock 方式固定返回值。橙色部分为压测辅助系统,收集调用链,并对系统的资源进行监控。

下图为华为公司终端云某产品为应对春节抢红包活动进行的 50 倍压测,压测过程共发行带宽瓶颈、内存 Full GC,服务挂死等 20+问题,达到了预期效果,有效保障了当年春节抢红包活动的顺利进行。


图 15:华为终端云某产品在线全链路压测效果

2.2.3 云化测试七种武器之三:Mock 服务

Mock 服务可以模拟接口的响应,解决在微服务系统开发及测试过程中依赖的服务未开发、第三方服务不稳定等问题。同时支持性能测试、异常测试等场景,还可以将 Mock 实例替代真实服务,支持系统级的联调及混沌测试等场景。

下图展示了 Mock 服务的工作原理:用户访问 Mock 门户,Mock 服务启动 Mock 实例,根据需要决定是否要转发给真实服务,然后根据规则,匹配返回消息。


图 16:Mock 服务工作原理

Mock 服务在开发、测试、部署阶段, 均有应用场景:

  • 开发阶段,实现并行开发,提升开发效率。

  • 测试阶段,提升测试的效率和覆盖率,以及自动化测试执行的成功率

  • 部署阶段,在微服务系统中部署 mock 服务替代真实服务,便于进行系统级测试及混沌测试


以下是华为云 Devcloud Mock 服务的核心能力:


图 17:Mock 服务核心能力

2.2.4 云化测试七种武器之四: Web 全自动化测试

Web 自动化测试,目前业界比较流行的开展方式是 Selenium+TestNG 组合。但这种方式需要基本的编程经验,而且需要查阅大量的 API 说明,不利于手工测试人员快速上手。

华为公司 Web 自动化能力,满足了手工测试人员期望“不用编码就能实现 Web 自动化测试”。通过图元驱动+控件驱动测试技术的全自动化测试框架,通过 AI 算法能力和图像识别技术,实现全 GUI 界面的自动化测试能力,解决 HTML5 等无法获取控件 ID 的自动难题。具体方案如下:


图 18:一站式 Web 全自动化能力

实践: 华为公司进行 WebUI 场景功能自动化测试

使用华为测试工具 ARTBot 进行 WebUI 场景功能自动化测试,结合华为优先研发实践和研发理念,测试用例免代码编写、录制回放机制生成脚本,基于脚本模板组装编排、管理 WebUI 自动化测试用例。


图 19:WebUI 自动化测试能力

WebUI 自动化测试具有如下优势:

简单

  • 0 编码开发成本

  • 0 环境搭建成本

  • 3 步生成 WebUI 脚本

  • 1 步 WebUI 自动化执行性能

高效

  • 可视化编排测试用例

  • 测试关键字批量复用

  • 云端弹性资源池

  • 实时反馈测试结果

专业

  • 高级测试场景编排

  • 定制化用户数据配置

  • 固化常用步骤

  • 流水线持续自动化测试


2.2.5 云化测试七种武器之五:现网导流测试

导流测试工作原理:将生产环境用户真实数据引流至研发区验证环境,通过对比研发区的验证结果与生产环境真实结果是否一致判断新版本是否存在

导流测试实施要点:

1.请求收集:收集生产环境用户真实请求

2.数据同步:生产环境冷备 DB 数据,同步至 A/B 两套环境

3.流量回放:将真实流量回放至 A/B 两套环境

4.结果对比:比对 A/B 两套环境流量执行结果


图 20:导流测试工作原理图

实践:云测导流测试

关键效果: 基于调用链的导流回放能力,通过 http、mysql、redis 三种类型的 MOCK 能力的构建,解决回放中的数据依赖问题,实现导流回放技术上新的突破,引流现网蓝环境(灰度环境)流量进行例行回放,完成 1XXX 个接口回放设计,现网灰度流量覆盖 XXX+接口,共发现版本问题 XX 个。


图 21:导流测试效果

2.2.6 云化测试七种武器之六:在线拨测

在线拨测,又称为在线持续测试,是指产品/服务发布后,在生产环境对产品/服务重要功能进行 7*24 小时持续拨测以便尽早或先于用户发现问题并协助研发人员快速修复上线

在线持续测试要点:

1.筛选用例:筛选版本重要功能对应的测试用例

2.定时拨测:定时(每隔 5 分钟)对重要功能进行拨测

3.现网告警:拨测用例执行失败并发送告警短信,提示告警等级

4.处理上线:研发人员根据告警快速处理并快速修复上线


图 22:在线拨测

实践:云测在线持续测试

关键技术:

1、用例共享:研发、在线测试用例资源共享,提升研发效率

2、执行方式灵活:用例按节点区域、并行串行、定时执行等多种执行策略,满足不同测试需求

3、模拟全球用户持续发起在线测试:全球部署测试客户端,模拟全球用户,跨区域持续测试被测服务,实现分布式部署,实时发起线上真实请求并收集数据


图 23:在线拨测实践

2.2.9 云化测试七种武器之七:AI 辅助质量评估

测试有效性是测试设计和质量监控管理的核心目标

  • 基于时间维度的 AI 可靠性模型、基于空间维度的易失效模块分析辅助测试有效性预测和评估

  • 基于 E2E 追溯一张图(测试资产知识网络)&图挖掘/搜索算法,实现从过程全程质量跟踪



​以上就是本文的全部内容。


点击关注,第一时间了解华为云新鲜技术~

发布于: 30 分钟前
用户头像

提供全面深入的云计算技术干货 2020.07.14 加入

华为云开发者社区,提供全面深入的云计算前景分析、丰富的技术干货、程序样例,分享华为云前沿资讯动态,方便开发者快速成长与发展,欢迎提问、互动,多方位了解云计算! 传送门:https://bbs.huaweicloud.com/

评论

发布
暂无评论
带你认识7种云化测试武器