最近在学习使用 gRPC 的知识过程中,突然发现了 gRPC 并没有提供一个类似于 HttpClient 连接池管理的功能,所以搜了一下相关资料,然后发现了一个通用的池化框架commons-pool2
。
从 Go 语言说起
对于池化技术相信大家都经说过,对于 Java 来讲:线程池,对于 HttpClient:连接池。之前我是一直只是使用,第一次见证到池化技术的威力是在学习 Go 语言的 HTTP 接口测试常用的两个库:net/http
和fasthttp
。
下面是net/http
创建 HTTP 请求的方法封装:
// Get 获取GET请求
// @Description:
// @param uri
// @param args
// @return *fhttp.Request
func Get(uri string, args map[string]interface{}) *http.Request {
if args != nil {
uri = uri + "?" + ToValues(args)
}
request, _ := http.NewRequest("GET", uri, nil)
return request
}
复制代码
下面是fasthttp
的创建 HTTP 请求的方法封装:
func DoGet(url string, args map[string]interface{}) ([]byte, error) {
req := fasthttp.AcquireRequest()
defer fasthttp.ReleaseRequest(req) // 用完需要释放资源
req.Header.SetMethod("GET")
values := ToValues(args)
req.SetRequestURI(url + "?" + values)
resp := fasthttp.AcquireResponse()
defer fasthttp.ReleaseResponse(resp) // 用完需要释放资源
if err := FastClient.Do(req, resp); err != nil {
fmt.Println("请求失败:", err.Error())
return nil, err
}
return resp.Body(), nil
}
复制代码
其中fasthttp
两行:
req := fasthttp.AcquireRequest()
defer fasthttp.ReleaseRequest(req)
resp := fasthttp.AcquireResponse()
defer fasthttp.ReleaseResponse(resp)
复制代码
这就是常用的池化技术使用规范,先获取一个,然后用完之后还回去。
据资料显示,两者性能差异最大的原因就是fasthttp
采用了对象池化技术。一下勾起我的好奇心,不过并没有采取行动,还以为是 Go 语言的奇技淫巧。后来想曾经想过自己实现一个对象池,后来由于技术不够放弃了,原因是性能测试框架已经满足了设计标准,有了阶段性的成果。
commons-pool2
Apache Commons Pool 库提供了一整套用于实现对象池化的 API,以及若干种各具特色的对象池实现。2.0 版本,并非是对 1.x 的简单升级,而是一个完全重写的对象池的实现,显著的提升了性能和可伸缩性,并且包含可靠的实例跟踪和池监控。
这个是偶然发现的,没想到真实我孤陋寡闻了。既然挂上了 Apache 名字,就知道这是一个非常成熟的框架,所以果断学习起来。首先从 gRPC 的测试代码中剥离。我把使用分成了三部分。
可池化类
首先我们需要一个可以被池化的对象,也可以是一组对象,这里我只分享前者。我写了一个接口com.funtester.base.interfaces.IPooled
:
package com.funtester.base.interfaces
import org.apache.commons.pool2.PooledObject
interface IPooled {
PooledObject<IPooled> reInit()
void destory()
}
复制代码
池化工厂类
然后我们需要一个池化工厂类,这个类主要解决如何创建可池化对象,如何将池化对象包装成org.apache.commons.pool2.PooledObject
,这个是对象池直接存储的对象,还有一个摧毁的com.funtester.funpool.FunPoolFactory#destroyObject
方法。
package com.funtester.funpool
import com.funtester.base.interfaces.IPooled
import org.apache.commons.pool2.BasePooledObjectFactory
import org.apache.commons.pool2.PooledObject
/**
* 可池化工厂类
*/
abstract class FunPoolFactory extends BasePooledObjectFactory<IPooled> {
abstract IPooled init()
@Override
IPooled create() throws Exception {
init()
}
@Override
PooledObject<IPooled> wrap(IPooled obj) {
return obj.reInit()
}
@Override
void destroyObject(PooledObject<IPooled> p) throws Exception {
p.getObject().destory()
super.destroyObject(p)
}
}
复制代码
对象池
这个算是简单的,设置几个常用的配置项,然后创建对象池。
package com.funtester.funpool
import com.funtester.base.interfaces.IPooled
import org.apache.commons.pool2.impl.GenericObjectPool
import org.apache.commons.pool2.impl.GenericObjectPoolConfig
class FunPool {
private static GenericObjectPool<IPooled> pool = init();
private static FunPoolFactory factory
private static GenericObjectPool<IPooled> init() {
// 连接池的配置
GenericObjectPoolConfig poolConfig = new GenericObjectPoolConfig();
// 池中的最大连接数
poolConfig.setMaxTotal(8);
// 最少的空闲连接数
poolConfig.setMinIdle(0);
// 最多的空闲连接数
poolConfig.setMaxIdle(8);
// 当连接池资源耗尽时,调用者最大阻塞的时间,超时时抛出异常 单位:毫秒数
poolConfig.setMaxWaitMillis(-1);
// 连接池存放池化对象方式,true放在空闲队列最前面,false放在空闲队列最后
poolConfig.setLifo(true);
// 连接空闲的最小时间,达到此值后空闲连接可能会被移除,默认即为30分钟
poolConfig.setMinEvictableIdleTimeMillis(1000L * 60L * 30L);
// 连接耗尽时是否阻塞,默认为true
poolConfig.setBlockWhenExhausted(true);
// 连接池创建
return new GenericObjectPool<>(factory, poolConfig);
}
}
复制代码
然后我们就可以使用这个对象池了,我定义了两个方法来演示两种常见的场景:
/**
* 从连接池获取对象
*/
static IPooled get() {
try {
return pool.borrowObject();
} catch (Exception e) {
e.printStackTrace();
}
return factory.create();
}
/**
* 执行器
*/
static def execute(Closure closure) {
IPooled client = get();
try {
closure(client);
} finally {
pool.returnObject(client);
}
}
复制代码
当然这个演示的 Demo 是非常不优雅的,而且缺少拓展性,后面我会继续优化。
Have Fun ~ Tester !
评论