需 求 背 景
在转转,接口测试分为简单的单接口测试和复杂的业务场景测试。
单接口测试一般在接口测试平台直接配置
复杂的场景测试则需要 QA 另起工程自己开发
但由于测试环境的 IP 地址是动态分配的,以及转转 RPC 架构的服务调用配置方式不够灵活,QA 的接口用例工程只能发挥新接口"测试"和定时在稳定环境执行的"监控"作用。缺少服务有改动部署时自动"回归"的能力。
为了能让我们的接口用例发挥更大的作用,能对服务改动做出及时响应,就需要一个在服务部署结束后自动执行接口用例的能力。
需 求 分 析
服务部署结束后自动执行测试用例,要求服务有以下能力:
1、知道服务什么时候部署结束,经过调研,beetle 在服务部署结束后会发送部署成功 Mq。
2、监听到部署通过 mq 后,执行用例。
执行用例有两种方式:
直接在代码里调用 TestNG 执行本工程写的测试用例。
将接口用例拉取到本地,编译后通过命令行调用 TestNG 执行用例。
转转 QA 的用例工程一般都是数据构造和接口用例一体,本身就是一个可启动集群,自身有可监听 mq 能力。
第二种方式需要固定拉取分支,不利于开发,且需要额外拉取一份代码,编译后才能执行,资源浪费,且效率低。因此采用第一种。
3、服务测试环境是动态分配的,在收到 mq 之后才知道具体部署哪个 ip,因此需要动态请求服务不同节点的能力。
4、执行结束之后需要及时通知开发和测试执行结果。
总结一下:图片
技 术 实 现
代码结构
上面说过需要在代码里面调用 TestNG,因此要将接口用例和数据构造代码放在一起。方便 TestNG 调用。
├── contract // 数据构造接口定义└── service└── src.main.java└── com.zhuanzhuan.mpqa├── Boot.java // 启动服务├── component // 数据构造接口实现├── system // 自动注入 RPC 接口 bean├── RpcProxyHandler.java // RpcProxyHandler
├── RpcBeanRegistry.java // RpcBeanRegistry├── MqComsumer.java // Mq 消费者├── TestNGSpringContext.java├── TestContextManager.java├── wrapper // 三方接口封装└── zztest // 用例目录├── BaseTest.java // 本地测试时,初始化 spring 依赖├── TestNGHelper.class├── case // 用例
部署成功 mqMqComsumer.java
@Componentpublic class MqComsumer {
@ZZMQListener(group = "Consumer", subscribe = @Subscribe(topic = "deploySuccessTopic"))
public void beetleDeploy(@Body List<AutoRunCases> beetleDeploys) {
AutoRunCases beetleDeploy = beetleDeploys.get(0);
TestNGHelper.run(beetleDeploy.getCluster(), beetleDeploy.getIp());
sendResult();
}
复制代码
}
代码调用 TestNGTestNGHelper.class
public class TestNGHelper {
public static boolean run(String serviceName, String ip) {
// 获取服务配置的用例
List<Case> cases = caseConfigMap.get(serviceName);
// suit
XmlSuite xmlSuite = new XmlSuite();
xmlSuite.setName(serviceName + "#" + ip);
Map<String,String> parameters = new HashMap<>();
// 这里将ip传入TestNG
parameters.put("ip", ip);
xmlSuite.setParameters(parameters);
// test
XmlTest xmlTest = new XmlTest(xmlSuite);
// classes
List<XmlClass> classes = new ArrayList<>();
cases.forEach(testCase -> {
XmlClass xmlClass = new XmlClass(testCase.getClazz());
classes.add(xmlClass);
// include
List<XmlInclude> xmlIncludes = new ArrayList<>();
testCase.getMethods().forEach(method -> {
XmlInclude xmlInclude = new XmlInclude(method);
xmlIncludes.add(xmlInclude);
});
xmlClass.setIncludedMethods(xmlIncludes);
});
xmlTest.setXmlClasses(classes);
TestNG testNG = new TestNG();
List<XmlSuite> suites = new ArrayList<>();
suites.add(xmlSuite);
testNG.setXmlSuites(suites);
testNG.setOutputDirectory("/home/work/test_report");
testNG.run();
return true;
}
复制代码
}注意:这里需要通过 xmlSuite.setParameter 传递 IP 地址
这里直接 run 的话,会有一个坑,后面会讲到。
动态调用服务不同节点(ip)
转转的 RPC 框架提供了两种不同的初始化方式。XML 和 API。
XML 配置时,ip 信息是写死的,不符合我们的需求。因此需要采用 api 调用的
方式。ip 通过之前 TestNG 的 XmlSuite.setParameters 获取。
图片
这种方式,每添加一个接口,都需要手写一个 bean,不够优雅。为了能够简化用例编写和减少代码冗余,我们可以实现一个 BeanDefinitionRegistryPostProcessor 统一处理。后续调用可以跟其他 Bean 一样,直接 @Resoures 或者 @Autowired 即可。
BeanDefinitionRegistryPostProcessor 和 FactoryBean
RpcBeanRegistry.java
@Componentpublic class RpcBeanRegistry implements BeanDefinitionRegistryPostProcessor {
private static final String MP_PACKAGE = "com.zhuanzhuan.mpqa";
@Override
@PostConstruct
public void postProcessBeanDefinitionRegistry(BeanDefinitionRegistry beanDefinitionRegistry) throws BeansException {
scanResourceScfContract().forEach(contract -> {
// 生成BeanDefinition
BeanDefinitionBuilder builder = BeanDefinitionBuilder.genericBeanDefinition(RpcBeanFactory.class);
// 解析后注入 registry 即: beanDefinitionMap.put (beanName, beanDefinition);
AbstractBeanDefinition beanDefinition = builder.getBeanDefinition();
// 注入属性
beanDefinition.getPropertyValues().add("contract", contract);
// 自定义 beanDefinition
String beanName = contract.getName() + "$ByScfBeanRegistry";
beanDefinitionRegistry.registerBeanDefinition(beanName, beanDefinition);
});
}
@Override
public void postProcessBeanFactory(ConfigurableListableBeanFactory configurableListableBeanFactory) throws BeansException {
}
/**
* 扫描有@Resource 和 @Autowired的field, 并判断是否是接口
*/
private Set<Class<?>> scanResourceRpcContract() {
Set<Class<?>> classes = ClassScanner.scanPackage(MP_PACKAGE);
Set<Class<?>> contractBean = new HashSet<>();
classes.forEach(clazz -> {
Field[] fields = clazz.getDeclaredFields();
Arrays.asList(fields).forEach(field -> {
Annotation resource = field.getDeclaredAnnotation(Resource.class);
Annotation autoWire = field.getDeclaredAnnotation(Autowired.class);
if(resource == null && autoWire == null) {
return;
}
Class<?> type = field.getType();
if(!type.isInterface()) {
return;
}
// 当前package
if(type.getName().startsWith(MP_PACKAGE)) {
return;
}
if(type.getAnnotation(ServiceContract.class) == null) {
return;
}
contractBean.add(type);
});
});
return contractBean;
}
复制代码
}
@Setterclass RpcBeanFactory implements FactoryBean<Object> {
private Class<?> contract;
@Override
public Object getObject() {
ScfProxyHandler handler = new RpcProxyHandler(contract);
return handler.getProxy();
}
@Override
public Class<?> getObjectType() {
return contract;
}
@Override
public boolean isSingleton() {
return true;
}
复制代码
}
InvocationHandlerScfProxyHandler.java
public class ScfProxyHandler implements InvocationHandler {
private static final int SCF_TIMEOUT = 200000;
private Class<?> contract;
public ScfProxyHandler(Class<?> contract) {
this.contract = contract;
}
public Object getProxy() {
return Proxy.newProxyInstance(this.getClass().getClassLoader(), new Class[] {contract}, this);
}
@Override
public Object invoke(Object proxy, Method method, Object[] args) throws Exception {
String methodName = method.getName();
ReferenceArgs referenceArgs = new ReferenceArgs(contract);
ApplicationConfig applicationConfig = SpringContext.getApplicationContext().getBean(ApplicationConfig.class);
ServiceReferenceConfig serviceReferenceConfig = new ServiceReferenceConfig();
serviceReferenceConfig.setServiceName(referenceArgs.getServiceName());
serviceReferenceConfig.setServiceRpcArgs(new ServiceRpcArgs());
serviceReferenceConfig.getServiceRpcArgs().setTimeout(SCF_TIMEOUT);
ServerNode serverNode = new ServerNode();
// 获取当前suite试用的ip
String ip = Reporter.getCurrentTestResult().getTestContext().getSuite().getParameter("ip");
serverNode.setHost(ip);
serverNode.setPort(referenceArgs.getTcpPort());
serviceReferenceConfig.setServerNodes(Collections.singletonList(serverNode));
Object refer = new Reference.ReferenceBuilder<>()
.applicationConfig(applicationConfig)
.interfaceName(contract.getName())
.serviceName(referenceArgs.getServiceName())
.localReferenceConfig(serviceReferenceConfig)
.build()
.refer();
return method.invoke(refer, args);
}
复制代码
}
输出测试报告执行结束之后会在设置 testNG.setOutputDirectory("/home/work/test_report") 的目录/home/work/test_report 中生成测试报告。如果你是 web 服务,可以直接通过企业微信群发或者发送告警消息,如果是其他服务可以发送邮件。默认的报告不太美观,可以使用其他插件优化。
图片
整体流程图片
踩 坑
application has already bean instanced
图片
前面说过,直接调用 TestNG.run 会有坑。坑就是 TestNG 本身无法在已经启动的 spring 实例中执行😭。原因是:在服务启动的时候,实例已经启动,相关的依赖已经注入,而 TestNG 在执行用例前会再次注入依赖。
经过查看 TestNG 启动的源码,梳理出 TestNG 的启动调用链和注入依赖的代码如下:
图片
图片
在这四个 AbstractTestExecutionListener 中的
DependencyInjectionTestExecutionListener 是负责依赖注入的,而且
AbstractTestNGSpringContextTests 和 TestContextManager 是比较独立
的,因此我们可以切个"分支"(重写 AbstractTestNGSpringContextTests 和
TestContextManager)。
图片
步骤:
1、复制一份 org.springframework.test.context.TestContextManager
添加以下判断
图片
2、复制一份
org.springframework.test.context.testng.AbstractTestNGSpringContext
Tests 命名为 TestNGSpringContext,将 import
org.springframework.test.context.TestContextManager 修改为 import
com.zhuanzhuan.mpqa.system.TestContextManager
3、BaseTest 继承 com.zhuanzhuan.mpqa.system.TestNGSpringContext
图片
其他问题在实际操作中,还有许多需要注意的地方:
1、多服务时,如何维护稳定节点和动态节点。需要维护三套环境:稳定环
境、动态测试环境和执行用例的环境,通过区分使用请求归属,从而决定使用
哪个 ip。或者通过流量路由标签设置也可以。
2、用例服务多节点时,如何处理并发。需要在监听 mq 部分加上分布式锁和
幂等校验
3、区分数据构造请求和用例执行请求。TestNGContext.getTestContext()
== null ? 数据构造请求 : 用例请求。
4、记得定时删除测试报告,避免磁盘被过期资源占用。
作者:陈俊华
转转研发中心及业界小伙伴们的技术学习交流平台,定期分享一线的实战经验及业界前沿的技术话题。
关注公众号「转转技术」(综合性)、「大转转 FE」(专注于 FE)、「转转 QA」(专注于 QA),更多干货实践,欢迎交流分享~
评论