得物 × StarRocks：潮流网购社区的极速 OLAP 实践

#01

为什么是 StarRocks

—

• 新一代极速全场景 MPP 数据库，可以用 StarRocks 来支持多种数据分析场景的极速分析；

• 架构简洁，采用了全面向量化引擎，并配备全新设计的 CBO 优化器，查询极速（尤其是多表关联查询）；

• 很好地支持了实时数据分析，并能对实时更新数据进行高效查询， 还支持现代化物化视图以进一步加速查询；

• 用户可以灵活构建包括大宽表、星型模型、雪花模型在内的各类模型；

• 兼容 MySQL 协议，支持标准 SQL 语法，易于对接使用，全系统无外部依赖，高可用，易于运维管理。

​

#02

系统架构

—

​核心进程：FE（Frontend）、BE（Backend）。所有节点都是有状态的。

FE（Frontend）负责管理元数据，管理客户端连接，进行查询规划、查询调度等工作。

• Follower

Leader：Follower 会通过类 Paxos 的 BDBJE 协议选主出一个 Leader，所有事务的提交都是由 Leader 发起并完成；

Follower：提高查询并发，同时参与投票，参与选主操作。

• Observer：不参与选主操作，只会异步同步并且回放日志，主要用于扩展集群的查询并发能力。

BE（Backend）负责数据存储以及 SQL 执行等工作。

#03

存储架构

—

在 StarRocks 里，一张表的数据会被拆分成多个 Tablet，而每个 Tablet 都会以多副本的形式存储在 BE 节点中，如下图：

Table 数据划分 + Tablet 三副本的数据分布：

StarRocks 支持 Hash 分布、Range-Hash 的组合数据分布（推荐）。

为了等到更高的性能，强烈建议使用 Range-Hash 的组合数据分布，即先分区后分桶的方式。

• Range 分区可动态添加和删减；

• Hash 分桶一旦确定，不能再进行调整，只有未创建的分区才能设置新的分桶数。

分区和分桶的选择是非常关键的。在建表时选择好的分区分桶列，可以有效提高集群整体性能。

以下是针对特殊应用场景下，对分区和分桶选择的一些建议：

• 数据倾斜：业务方如果确定数据有很大程度的倾斜，那么建议采用多列组合的方式进行数据分桶，而不是只单独采用倾斜度大的列做分桶。

• 高并发：分区和分桶应该尽量覆盖查询语句所带的条件，这样可以有效减少扫描数据，提高并发。

• 高吞吐：尽量把数据打散，让集群以更高的并发扫描数据，完成相应计算。

1、表的存储

对表进行存储时，会对表进行分区和分桶两层处理，将表的数据分散到多台机器进行存储和管理。

• 分区机制：高效过滤，提升查询性能。

分区类似分表，是对一个表按照分区键进行分割，可以按照时间分区，根据数据量按照天/月/年划分。在查询过程中，可以利用分区裁剪降低数据扫描量提升查询效率，也可以根据数据的冷热程度把数据分到不同介质上。

• 分桶机制：充分发挥集群性能，避免热点问题。

使用分桶键 Hash 以后，把数据均匀分布到所有 BE 上，不要出现 bucket 数据倾斜的情况。分桶键的选择原则就是分桶列（一个或多个分桶列）的基数要足够高可以将数据充分打散。

Bucket 数量需要适中，如果希望充分发挥性能，可以设置为：BE 数量 * CPU core/2， tablet 最好控制在 1GB-10GB 左右，新版本已经实现 tablet 内部的并行 scan，tablet 数量和 SQL 并行度已经不完全绑定，即使在 Tablet 数量较少的情况下，依然能够充分利用 CPU 资源来并行计算。

• Tablet：最小的数据逻辑单元，可以灵活设置并行计算资源。

一张表被切分成了多个 Tablet，StarRocks 在执行 SQL 语句时，可以对所有 Tablet 实现并发处理，从而充分利用多机、多核提供的计算能力。

表在创建的时候可以指定副本数，多副本够保证数据存储的高可靠、服务的高可用。

• Rowset：每一次数据导入都会生成一个新的数据版本，保存在一个 rowset 中。

一个 tablet 可能有 N（N>=0） 个 rowset，一个 rowset 对应 M（M>=0） 个实际数据文件。

每次写入都会增加一个版本，无论是单条、还是 stream load 几个 G 的文件。

• Segment：如果一个 Rowset 数据量比较大，则拆分成多个 Segment 数据落盘。

​

#04

案例一：指标工厂服务

—

1、业务背景

指标工厂服务主要面向业务人员，通过对业务指标的采集和处理，实时反映产品状态，为运营提供数据支撑、检测产品漏洞或服务异常、提供指标异常告警功能等。

2、业务场景分析

业务指标埋点方式多样，并不局限于某种方式，只要符合埋点标识明确、业务参数丰富、数据满足可解析的基本要求皆可作为数据源，大致可以分为：SDK、MySQL BinLog、业务日志、阿里云 ODPS 数据分析。

各种业务场景众口难调，归纳数据特征如下：

1. 需要全量日志明细；

2. 需要数据始终是最新的，即满足实时更新场景；

3. 需要对数据做层级聚合的，即可能是月、周、日、小时等；

4. 需要可以承载更大的写入量；

5. 每个业务数据都要灵活配置数据的保存时间；

6. 数据源来源多，报表定制化比较高，有多个数据源合并成一个大宽表的场景、也有多表连接的的需求；

7. 各种监控图、报表展示、业务实时查询等，即较高的并非查询。

3、引入 StarRocks

幸运的是，StarRocks 有比较丰富的数据模型，覆盖了上面的所有业务场景的需求，即明细模型、更新模型、聚合模型、主键模型。同时，选择更为灵活的星型模型代替大宽表的方式，即直接使用多表关联来查询。

• 明细模型：

1. 埋点数据经过结构化处理后按明细全量存储；

2. 该场景对 DB 在亿级数据量下查询性能有较高的要求；

3. 数据可以通过配置动态分区来配置过期策略；

4. 场景使用时从结构化数据选择个别字段维度在线聚合查询。

• 聚合模型：

1. 埋点数据数据量巨大，且对明细数据不要求溯源，直接做聚合计算，比如计算 PV、UV 场景；

2. 数据可以通过配置动态分区来配置过期策略。

• 更新模型：

1. 埋点数据状态会发生变动，且需要实时更新数据，更新数据范围不会跨度多个分区的，比如：订单、优惠券状态等；

2. 数据可以通过配置动态分区来配置过期策略。

基于以上业务场景的分析，这三种模型可以完美解决数据的问题。

需要实时的数据写入场景，我也沿用了业内流行的解决方案，使用 Flink 实时消费 Kafka 的数据，再以微批的方式（十秒一批）写入到 StarRocks。并且 StarRocks 提供了非常好用的 Flink-connector 插件，可以通过多种方式控制数据的写入频率，在满足数据时效性的要求的同时，也可以降低集群的导入压力。

小 tips：

1. 虽然 StarRocks 已经很好地优化了写入性能，当写入压力大，仍会出现写入拒绝，建议可适当增大单次导入数据量、降低频率。不过这也会导致数据落库延迟增加，所以需要做好一定的取舍，做到收益最大化。

2. Flink 的 sink 端不建议配置过大，会引起并发事务过多报错，建议每个 flink 任务 source 可以配置多些，sink 的连接数不能过大。

4、小结

目前该方案已支持数百个业务指标的接入，涉及几十个大盘的指标展示和告警，数据存储 TB 级，每日净增长上百 G，总体运行稳定。

​

#05

案例二：内部系统业务看板

—

1、业务背景

内部系统业务看板，主要服务于全公司员工，提供项目及任务跟踪等功能。

2、业务场景分析

分析业务特点：

1. 数据变更频繁(更新)，变更时间跨度长

2. 查询时间跨度多

3. 报表需准实时更新

4. 关联维表查询多，部门/业务线/资源域等

5. 冷热数据，最近数据查询频繁

3、历史架构与痛点

当初数据库选型时，结合业务特点，用户需要动态、灵活的增删记录自己的任务，因而选择了 JOSN 模型减少了应用程序代码和存储层之间的阻抗，选择 MongoDB 作为数据存储。

伴随着公司快速发展，当需要报表展示，特别是时间跨度比较大，涉及到多部门、多维度、细粒度等报表展示时， MongoDB 的查询需要执行 10s 甚至更久。

4、引入 StarRocks

我们调研了 StarRocks、ClickHouse 这两款非常优秀的分析型数据库，在选型时，分析了业务应用场景，主要需求集中在单表聚合查询、多表关联查询、实时更新读写查询。由于维度表更新频繁，适合存储在 TP 库 MySQL 中，StarRocks 存储不变的事实表。内部表和外表直接做关联查询，即解决了 AP 库不适合数据频繁变更的问题，又可以提升多表关联的性能。这个方案在很大程度上降低了开发难度，又能充分利用 StarRocks 的分析性能，所以最终决定选用 StarRocks 作为存储引擎。

改造阶段，将原先 MongoDB 中的一个集合拆分成 3 张表。使用明细模型，记录每天对应人员的任务信息，按天分区，由之前的每人每天一条记录改为以事件为单位，每人每天可以多条记录。需要实时频繁更新的维表，则使用 MySQL 存储，通过外部表的方式进行查询，减少维度数据同步到 StarRocks 的复杂度。

5、小结

改造前，MongoDB 查询，写法复杂，需多次查询。

db.time_note_new.aggregate(    [       {'$unwind': '$depart'},       {'$match': {           'depart': {'$in': ['部门id']},           'workday': {'$gte': 1609430400, '$lt': 1646064000},           'content.id': {'$in': ['事项id']},            'vacate_state': {'$in': [0, 1]}}       },        {'$group': {            '_id': '$depart',            'write_hour': {'$sum': '$write_hour'},            'code_count': {'$sum': '$code_count'},            'all_hour': {'$sum': '$all_hour'},            'count_day_user': {'$sum': {'$cond': [{'$eq': ['$vacate_state', 0]}, 1, 0]}},            'vacate_hour': {'$sum': {'$cond': [{'$eq': ['$vacate_state', 0]}, '$all_hour', 0]}},            'vacate_write_hour': {'$sum': {'$cond': [{'$eq': ['$vacate_state', 0]}, '$write_hour', 0]}}}           -- ... more field       },        {'$project': {           '_id': 1,            'write_hour': {'$cond': [{'$eq': ['$count_day_user', 0]}, 0, {'$divide': ['$vacate_write_hour', '$count_day_user']}]},            'count_day_user': 1,            'vacate_hour': 1,            'vacate_write_hour': 1,            'code_count': {'$cond': [{'$eq': ['$count_day_user', 0]}, 0, {'$divide': ['$code_count', '$count_day_user']}]},            'all_hour': {'$cond': [{'$eq': ['$count_day_user', 0]}, 0, {'$divide': ['$vacate_hour', '$count_day_user']}]}}           -- ... more field       }    ])

改造后，直接兼容 SQL，单次聚合。

WITH cont_time as (    SELECT b.depart_id, a.user_id, a.workday, a.content_id, a.vacate_state        min(a.content_second)/3600 AS content_hour,        min(a.write_second)/3600 AS write_hour,        min(a.all_second)/3600 AS all_hour    FROM time_note_report AS a    JOIN user_department AS b ON a.user_id = b.user_id    -- 更多维表关联    WHERE b.depart_id IN (?)  AND a.content_id IN (?)       AND a.workday >= '2021-01-01' AND a.workday < '2022-03-31'       AND a.vacate_state IN (0, 1)    GROUP BY b.depart_id, a.user_id, a.workday, a.content_id,a.vacate_state)SELECT M.*, N.*FROM (     SELECT t.depart_id,         SUM(IF(t.content_id = 14, t.content_hour, 0))   AS content_hour_14,         SUM(IF(t.content_id = 46, t.content_hour, 0))   AS content_hour_46,         -- ...more    FROM cont_time t    GROUP BY t.depart_id) MJOIN (     SELECT depart_id                                  AS join_depart_id,      SUM(write_hour)                                 AS write_hour,      SUM(all_hour)                                   AS all_hour      -- 更多指标    FROM cont_time    GROUP BY depart_id) N ON M.depart_id = N.join_depart_idORDER BY depart_id ASC

以查询报表 2021/01/01~2022/03/01 之间数据对比：

• StarRocks: 1 次查询聚合，可完全通过复杂 SQL 聚合函数计算，耗时 295ms

• MongoDB: 需分 2 次查询+计算，共耗时 3s+9s=12s

​

#06

经验分享

—

在使用 StarRocks 时遇到的一些报错和解决方案（网上资料较少的报错信息）：

a. 数据导入 Stream Load 报错：“current running txns on db 13003 is 100, larger than limit 100”

原因：超过了每个数据库中正在运行的导入作业的最大个数，默认值为 100。可以通过调整 max_running_txn_num_per_db 参数来增加每次导入作业的个数，最好是通过调整作业提交批次。即攒批，减少并发。

b. FE 报错：“java.io.FileNotFoundException: /proc/net/snmp (Too many open files)”

原因：文件句柄不足，这里需要注意，如果是 supervisor 管理进程，则需要将文件句柄的配置加到 FE 的启动脚本中。

if [[ $(ulimit -n) -lt 60000 ]]; then  ulimit -n 65535fi

c. StarRocks 支持使用 Java 语言编写用户定义函数 UDF，在执行函数报错：“rpc failed, host: x.x.x.x”，be.out 日志中报错：

start time: Tue Aug 9 19:05:14 CST 2022Error occurred during initialization of VMjava/lang/NoClassDefFoundError: java/lang/Object

原因：在使用 supervisor 管理进程的时候，需要注意增加 JAVA_HOME 环境变量，即使是 BE 节点也需要调用 Java 的一些函数，也可以直接将 BE 启动脚本增加 JAVA_HOME 环境变量配置。

d. 执行 Delete 操作报错如下：

SQL > delete from tableName partition (p20220809,p20220810) where `c_time` > '2022-08-09 15:20:00' and `c_time` < '2022-08-10 15:20:00';ERROR 1064 (HY000): Where clause only supports compound predicate, binary predicate, is_null predicate and in predicate

原因：目前 delete 后的 where 条件不支持 between and 操作，目前只支持 =、>、>=、<、<=、!=、IN、NOT IN e. 使用 Routine Load 消费 Kakfa 数据的时候产生了大量随机 group_id

建议：建 Routine Load 的时候指定一下 group name。

e. 使用 Routine Load 消费 Kakfa 数据的时候产生了大量随机 group_id

建议：建 Routine Load 的时候指定一下 group name。

f. StarRocks 连接超时，查询语句报错：“ERROR 1064(HY000):there is no scanNode Backend”，当重新启动 BE 节点后，短暂恢复。日志报错如下：

kafka log-4-FAIL, event: [thrd:x.x.x.x:9092/bootstrap]: x.x.x.x:9092/1: ApiVersionRequest failed: Local: Timed out: probably due to broker version < 0.10 (see api.version.request configuration) (after 10009ms in state APIVERSION_QUERY)

原因：当 Routine Load 连接 Kafka 有问题时，会导致 BrpcWorker 线程耗尽，影响正常访问连接 StarRocks。临时解决方案是找到问题任务，暂停任务，即可恢复。

​

#07

未来规划

—

接下来我们会有更多业务接入 StarRocks，替换原有 OLAP 查询引擎，运用更多的业务场景，以积累经验、提高集群稳定性。

未来也会使用 StarRocks 的新版本，优化主键模型内存占用，以及 2.3 版本的主键模型部分列能力来给业务方提供更灵活的更新方式。

后续希望 StarRocks 能够持续优化提升 Bitmap 查询性能，同时提供更完善的多租户资源隔离功能。今后我们也会继续积极参与 StarRocks 的社区讨论，反馈业务场景。

关于 StarRocks

面世两年多来，StarRocks 一直专注打造世界顶级的新一代极速全场景 MPP 数据库，帮助企业建立“极速统一”的数据分析新范式，助力企业全面数字化经营。

当前已经帮助腾讯、携程、顺丰、Airbnb 、滴滴、京东、众安保险等超过 170 家大型用户构建了全新的数据分析能力，生产环境中稳定运行的 StarRocks 服务器数目达数千台。

2021 年 9 月，StarRocks 源代码开放，在 GitHub 上的星数已超过 3200 个。StarRocks 的全球社区飞速成长，至今已有超百位贡献者，社群用户突破 7000 人，吸引几十家国内外行业头部企业参与共建。