毫秒级响应!清科优能应用 TDengine 建设虚拟电厂运营管理平台
小 T 导读:在清科优能的虚拟电厂运营管理平台建设中,项目初期预计涉及约一万台设备、总数据采集量达数十万,在数据库选择上,其希望能支持至少两千台设备的并发数据处理。本文介绍了清科优能的数据库选型经验以及最终应用效果,给到大家参考。
清科优能(Amber Optimal)的虚拟电厂运营管理平台是一款集业务流程化、操作自动化、决策智能化于一体的云平台产品。该平台使负荷聚合商和资源业主能够迅速搭建虚拟电厂,并通过参与电力市场交易,优化灵活可调资源的经济价值。该产品可细分为聚合商运营管理平台、用户侧管理平台两个版本。聚合商平台主要负责与电力调度部门及电力交易中心的北向对接和用户侧平台的南向对接,专注于交易运营、资源调度和用户管理等。用户侧平台则主要负责与用户侧的各类能源资源系统的南向对接,其功能集中在资源评估、资源接入和调度响应。
![](https://static001.geekbang.org/infoq/58/5813fce4ff8eb8cd6961a1c3d794b7f3.png)
在该项目中,我们最担心的问题之一就是数据库的读写能力。在该业务场景中,初期预计涉及约一万台设备、总数据采集量达数十万,我们需要确保数据库能够支持至少两千台设备的并发数据处理。这些设备主要包括计量总表、并网点、光伏系统、储能设备、充电桩、冷却系统等。
项目落地情况
为响应交易中心的需求,数据采集时间颗粒度需要达到分钟级,在分析系统设备故障方面,有些需要采集秒级、甚至毫秒级数据,这无疑对数据库的写入能力提出很高的要求。此外,在申报和响应执行虚拟电厂邀约过程中,涉及大量的负荷、可响应容量分析、预测等算法,这些算法需要查询大量的历史数据,这对数据库的查询响应能力也提出很大的挑战。
目前基于 TDengine 我们构建了虚拟电厂运营管理平台,使用后数据存储优势明显,整体压缩比在 7-8 倍,数据查询也实现了秒级或者毫秒级的响应,为算法分析与数据中台提供了强力支撑。
最终我们以 2 核 4G 内存 600GB 机械硬盘 * 3 个节点落地了我们的项目,架构如下:
![](https://static001.geekbang.org/infoq/0e/0e83c24446f5454f54871b8e84db95ee.png)
我们选择 TDengine 作为虚拟电厂运营管理系统的时序数据库。主要有以下几方面的考量:
业务适配性:TDengine 产品定位符合虚拟电厂运营管理系统物联网 + 能源联网调度交易特性。针对公司所属行业合作对接情况,结合涛思数据官网各类落地案例,TDengine 在能源行业、物联网行业均有较高接入率,能够为公司后续商业发展提供更友好的支持。
强大的读写能力:无论是十年前还是一秒钟前的数据,指定时间范围即可快速查询。在测试阶段,应用 TDengine 在大批量的数据拉取时也能做到秒级/毫秒级响应,并且数据可在时间轴上或多个设备上进行聚合,方便各种维度的数据计算。在写入时,每秒轻松支撑百万行级数据写入。
数据压缩率:列式存储使得 TDengine 的数据压缩比非常高,为企业节省了更多的服务器磁盘费用,实际使用中压缩率可达 10% 以内。
TDengine 部署情况
在实际应用中,TDengine 主要负责如下模块:
1. 存储设备采集的原始数据(分钟级、秒级、毫秒级等数据)
![](https://static001.geekbang.org/infoq/74/740f4a45ed0e6425faa8eff9cbd4f8ed.png)
2. 响应电力调度部门与电力交易中心,查询设备实时最新状态数据,可达到毫秒级返回(通过 select last_row 查询完成),以及设备历史数据(通过 select * 查询读取,每次查询时间范围为 3 天以内)
![](https://static001.geekbang.org/infoq/5a/5aa9f7830ec591d17d37b5f43f63a29c.png)
3. 我们的聚类分析、神经网络预测等算法,采用 celery 分布式任务调度架构,读取 TDengine 原始数据,用来计算 5 分钟、15 分钟级等时间颗粒度电气量曲线数据,预测用户未来 7 天可响应容量数据,以及计算系统各资源类型最佳分摊比等等。该查询可在秒级/毫秒级返回数据(通过 select * 查询读取)
![](https://static001.geekbang.org/infoq/87/87adbf42d878d84e457acf4b2798bb51.png)
写在最后
未来,我们考虑在用户侧每个虚拟电厂运营管理平台布置多个单节点 TDengine,作用不只是采集和转发,还要起到时序数据质量治理以及实时模型预测的功能;而在负荷聚合商侧我们会考虑基于 TDengine 构建更多更复杂的计算指标和高级模型;同时还要和任务调度、盘活资源、需求响应、电力交易引擎以及虚拟电厂行业标准集成。
我们希望在新能源电力行业中与 TDengine 携手,共同探索未来更多的可能性。
关于清科优能
清科优能(Amber Optimal)是一家专注于微电网系统控制技术的专精特新企业。在全球能源电力绿色低碳转型以及中国新型电力系统建设发展的背景下,清科优能专注提供微电网产品与服务,致力于为商业楼宇、工业园区、弱网矿区、离网海岛等应用场景提供系统级的运行控制与电力优化技术方案,实现终端用户供电安全稳定可靠、电力运营成本最优、能源资产收益最优、低碳可持续发展的价值目标。
评论