性能测试中 QPS 取样器和 RT 取样器

2022 年 4 月 25 日
本文字数：2343 字
阅读完需：约 8 分钟

之前写过一个性能测试框架中QPS取样器实现，总体思路是通过一个异步工具类com.funtester.frame.execute.Progress来统计各个线程自己的统计数据（响应时间），然后再依据线程数计算实时的 QPS。

但是这个思路很容易受到数据（响应时间）取样的样本大小影响，因为对于混合接口压测场景中，不同接口的响应时间可能会差别很大。所有通过之前的思路就需要优化了，经过一些尝试终于确定了新的方案。

思路

这个功能仅针对于静态压测模型来讲，因为动态压测模型实现思路已经很不一样了，强制统一不太合适。所以针对动态模型，我单独写了一个动态模型的 QPS 取样器，对于之前的静态模型，我重新实现了 RT 取样器。由于动态模型中并不会记录响应时间，暂时也没有增加 RT 取样器的计划。

对于静态模型的 RT 取样器。我添加了com.funtester.base.constaint.ThreadBase#INTERCEPT和com.funtester.base.constaint.ThreadBase#COUNT，通过控制这两个开关来实现不同的功能。通过一个异步线程接口控制台输出内容，来控制 RT 取样器工作状态。
对于动态模型中的 QPS 模型，用到了性能测试中的LongAdder，经过测试性能足够好。依然通过异步线程获取这个计数器的值当做 QPS，然后每次重置即可。
对于动态模型中的线程模型，由于com.funtester.base.constaint.ThreadBase已经提供了com.funtester.base.constaint.ThreadBase#executeNum当做每个线程的计数器，由于单线程的，所以并不用考虑线程安全的问题。直接将任务池中的com.funtester.base.constaint.ThreadBase存活对象遍历一遍求和即可。

实现

静态模型

取样器方法实现：

    /**     * 取样器     *     * @param time     */    public static void statistic(int time) {        INTERCEPT = true;        sleep(time);        INTERCEPT = false;        CountUtil.FunIndex index = CountUtil.index(interceptCosts);        logger.info("当前QPS:{}", interceptCosts.size() / time);        logger.info("当前RT:{}", index.toString());        interceptCosts = new Vector<>();    }

复制代码

这里用到了com.funtester.utils.CountUtil#index，代码后面会附上。

动态 QPS 模型

之前写过一个基于Disruptor的动态 QPS 模型框架：

高性能队列Disruptor在测试中应用 2021-12-28
千万级日志回放引擎设计稿 2021-12-30

但是经过实际使用，并不适合，二次开发的复杂程度较高，目前已经放弃了。不过由于部分用例已经用上了，新的框架还没时间验证，所以还会保留一阵子。

关于Disruptor获取实时 QPS 的可以翻一翻上面的文章，下面是新写的框架实现：

            if (index++ % LOOP_INTERVAL == 0) logger.info("当前设计QPS:{},实际QPS:{} 活跃线程数:{}", qps, total.sumThenReset() / LOOP_INTERVAL as int, executor.getActiveCount())

复制代码

其中com.funtester.frame.execute.FunEventConcurrent#total作为单个测试任务的统计对象，这也是为以后多任务做铺垫。

动态线程模型

这个相对简单，不用考虑线程安全的问题，只是在每次输出增减内容之后输出当前任务池的信息即可。

首先是任务池信息获取方法：

    /**     * 获取实时当然任务池信息     */    public static synchronized void printInfo() {        long s = threads.stream().collect(Collectors.summarizingInt(f -> f.executeNum)).getSum();        sleep(1);        long e = threads.stream().collect(Collectors.summarizingInt(f -> f.executeNum)).getSum();        logger.info("当前任务数:{} QPS:{}", aliveSize(), e - s);    }

复制代码

其次是在处理控制台输出内容的内部类稍微改造一下：

    private static class FunTester implements IFunController {
        boolean key = true;
        @Override        public void run() {            while (key) {                String input = getInput();                switch (input) {                    case "+":                        add();                        break;                    case "-":                        reduce();                        break;                    case "*":                        over();                        key = false;                        break;                    default:                        if (Regex.isMatch(input, "(F|f)\\d+")) THREAD_STEP = changeStringToInt(input.substring(1));                        break;                }                FunThread.printInfo();            }        }
        @Override        public void add() {            range(THREAD_STEP).forEach(f -> {                addTask();                sleep(0.5);            });        }
        @Override        public void reduce() {            range(THREAD_STEP).forEach(f -> {                removeTask();                sleep(0.5);            });        }
        @Override        public void over() {            FunThread.stop();            logger.info("动态结束任务!");        }
    }

复制代码

Have Fun ~ Tester ！

发布于: 刚刚阅读数: 3

原文链接:【http://xie.infoq.cn/article/2dfda5ef9737d825d1c3d6827】。文章转载请联系作者。

FunTester

关注

公众号：FunTester，750篇原创，欢迎关注 2020.10.20 加入

公众号FunTester，坚持原创文章的测试人，一个有趣的灵魂。

发布

暂无评论

创作场景

性能测试中 QPS 取样器和 RT 取样器

思路

实现

静态模型

动态 QPS 模型

动态线程模型

Have Fun ~ Tester ！

FunTester

评论