APP 流水线测试领域探索与最佳实践 | 京东物流技术团队
1 背景
APP 端 UI 自动化因其特殊性(需连接测试机)一般都在本地执行,这种执行方式的局限性有以下弊端:
时效性低:研发每次打包后都需要通知测试,测试再去打包平台取包,存在时间差
研发自测或产品验收无法使用自动化脚本:研发自测及产品验收时如果想用自动化脚本需要搭建相应的运行环境并准备测试机,繁琐的步骤导致研发/产品放弃使用自动化。而手工验证的过程中经常需要测试协助下单、改数据,效率低
本地执行的结果没有持久化存储,不利于进行结果度量
2 方案分析
为解决以上问题需要搭建流水线,CI/CD 领域常用的流水线平台非 Jenkins 莫属,Jenkins 功能强大、可二次开发,但执行 APP 自动化需要 windows 执行机、模拟器/真机,这些要求无疑增加了测试成本。与之相比,Bamboo 平台是基于 Jenkins 开发的流水线平台,不仅继承了 Jenkins 的众多功能,且支持图形化配置,并对接了赛博平台等其他平台。
从下图对比中可以看出,复用现有的 Bamboo 平台成本更低,同时需要做以下改变:一、自动化框架需要改为 airtest 框架;二、需要对测试报告进行处理以符合预期。
3 方案实施
架构图:
流程图:
执行结果:
4 执行过程中遇到的问题及解决方案
1.bamboo 打 debug 包成,release 包不成功
解决:证书管理中上传 sign.properties 文件,该文件中去掉绝对路径信息,使用相对路径
2.赛博平台无法输入汉字
解决:用 poco().set_text()替代 text()方法
3.跑脚本失败提示 RuntimeError: unable to launch AndroidUiautomationPoco
解决:赛博的机器有 ATX,会影响 poco 初始化。poco 初始化前加代码:
5 待解决问题
接入 coding 平台,只支持 airtest 框架
影响:需要对原框架进行改动,成本较高。与赛博平台负责产品沟通过,赛博平台后期会开发对接其他框架的功能。
手动配置的数据比较多:模块、用例、用例集
影响:除了测试脚本外还需单独配置模块、用例、用例集,人工成本较高。后需可考虑 coding 平台代码合并后触发定时任务自动生成对应的模块、用例、用例集。
无法指定机型
影响:无法指定机型进行兼容性测试,与赛博平台分则产品沟通过,暂未有计划修改此项。
京管家未接入线上打包平台
影响:测试过程中需要本地保留 apk 包,占本地内存且容易混淆;无法进行版本管理,需要复现问题时不能及时提供历史版本;UED 走查或产品验收时只能京 ME 联系研发取包,时效性差;无法接入流水线。
6 预期收益
流水线不仅解决了环境配置及测试机不足的问题还有以下优势:
学习成本低,操作简单,预计可节省三分之二的工时
执行结果可以做持久化存储,后期可与自动化度量平台相结合进行数据分析
流水线中可加入 Sunglasses 原子,UI 自动化测试过程中监控 Flutter 异常
线上版本可做日常化监控,及时发现问题
作者:京东物流 范文君
来源:京东云开发者社区 自猿其说 Tech
版权声明: 本文为 InfoQ 作者【京东科技开发者】的原创文章。
原文链接:【http://xie.infoq.cn/article/b28fd9e01374824a6367f8f74】。文章转载请联系作者。
评论