全面进化！Apache Doris 1.2.0 Release 版本正式发布｜版本通告

2022-12-07
北京
本文字数：11428 字
阅读完需：约 37 分钟

亲爱的社区小伙伴们，经历数月的等候，我们很高兴地宣布，Apache Doris 于 2022 年 12 月 7 日迎来了 1.2.0 Release 版本的正式发布！有近 118 位 Contributor 为 Apache Doris 提交了超 2400 项优化和修复，感谢每一位让 Apache Doris 更好的你！

自从社区正式确立 LTS 版本管理机制后，在 1.1.x 系列版本中不再合入大的功能，仅提供问题修复和稳定性改进，力求满足更多社区用户在稳定性方面的高要求。而综合考虑版本迭代节奏和用户需求后，我们决定将众多新特性在 1.2.0 版本中发布，这无疑承载了众多社区用户和开发者的深切期盼，同时也是一场厚积而薄发后的全面进化！

在 1.2 版本中，我们实现了全面向量化、实现多场景查询性能 3-11 倍的提升，在 Unique Key 模型上实现了 Merge-on-Write 的数据更新模式、数据高频更新时查询性能提升达 3-6 倍，增加了 Multi-Catalog 多源数据目录、提供了无缝接入 Hive、ES、Hudi、Iceberg 等外部数据源的能力，引入了 Light Schema Change 轻量表结构变更、实现毫秒级的 Schema Change 操作并且可以借助 Flink CDC 自动同步上游数据库的 DML 和 DDL 操作，以 JDBC 外部表替换了过去的 ODBC 外部表，支持了 Java UDF 和 Romote UDF 以及 Array 数组类型和 JSONB 类型，修复了诸多之前版本的性能和稳定性问题，推荐大家下载和使用！

下载安装

GitHub 下载： https://github.com/apache/doris/releases

官网下载页： https://doris.apache.org/download

源码地址： https://github.com/apache/doris/releases/tag/1.2.0-rc04

下载说明

由于 Apache 服务器对文件大小限制，官网下载页的 1.2.0 版本的二进制程序分为三个包：

apache-doris-fe
apache-doris-be
apache-doris-java-udf-jar-with-dependencies

其中新增的apache-doris-java-udf-jar-with-dependencies包用于支持 1.2 版本中的 JDBC 外表和 JAVA UDF 新功能。下载后需要将其java-udf-jar-with-dependencies.jar文件放到 be/lib目录下，方可启动 BE，否则无法启动成功。

为了便于大家下载使用，我们将预编译好的二进制程序提前打包好，该版本基于 Apache Doris 1.2.0 正式版，仅内置了 java8 运行时环境，复制下方链接到浏览器下载，解压后即可使用。

下载链接：

部署说明

从历史版本升级到 1.2.0 版本，需完整更新 fe、be 下的 bin 和 lib 目录。

其他升级注意事项，请完整阅读以下文档：

本通告最后一节「升级注意事项」
安装部署文档：https://doris.apache.org/zh-CN/docs/dev/install/install-deploy
集群升级文档：https://doris.apache.org/zh-CN/docs/dev/admin-manual/cluster-management/upgrade

如在版本升级、功能验证、生产上线等过程中出现问题，可以在社区用户群中寻求 SelectDB 专职技术工程师帮助。

重要更新

全面向量化支持，性能大幅提升

在 Apache Doris 1.2.0 版本中，系统所有模块都实现了向量化，包括数据导入、Schema Change、Compaction、数据导出、UDF 等。新版向量化执行引擎具备了完整替换原有非向量化引擎的能力，后续我们也将考虑在未来版本中去除原有非向量化引擎的代码。

与此同时，在全面向量化的基础上，我们对数据扫描、谓词计算、Aggregation 算子、HashJoin 算子、算子之间 Shuffle 效率等进行了全链路的优化，使得查询性能有了大幅提升。

我们对 Apache Doris 1.2.0 新版本进行了多个标准测试集的测试，同时选择了 1.1.3 版本和 0.15.0 版本作为对比参照项。经测，1.2.0 在 SSB-Flat 宽表场景上相对 1.1.3 版本整体性能提升了近 4 倍、相对于 0.15.0 版本性能提升了近 10 倍，在 TPC-H 多表关联场景上较 1.1.3 版本上有近 3 倍的提升、较 0.15.0 版本性能至少提升了 11 倍。

图 1 SSB

图 2 TPC-H

同时，我们将 1.2.0 版本的测试数据提交到了全球知名数据库测试排行榜 ClickBench，在最新的排行榜中，Apache Doris 1.2.0 新版本取得了通用机型（c6a.4xlarge, 500gb gp2）下查询性能 Cold Run 第二和 Hot Run 第三的醒目成绩，共有 8 个 SQL 刷新榜单最佳成绩、成为新的性能标杆。导入性能方面，1.2.0 新版本数据写入效率在同机型所有产品中位列第一，压缩前 70G 数据写入仅耗时 415s、单节点写入速度超过 170 MB/s，在实现极致查询性能的同时也保证了高效的写入效率！

图 3 Cold Run

图 4 Hot Run

UniqueKey 模型实现 Merg-On-Write 数据更新模式

在过去版本中， Apache Doris 主要是通过 Unique Key 数据模型来实现数据实时更新的。但由于采用的是 Merge-On-Read 的实现方式，查询存在着效率瓶颈，有大量非必要的 CPU 计算资源消耗和 IO 开销，且可能将出现查询性能抖动等问题。

在 1.2.0 版本中，我们在原有的 Unique Key 数据模型上，增加了 Merge-On-Write 的数据更新模式。 该模式在数据写入时即对需要删除或更新的数据进行标记，始终保证有效的主键只出现在一个文件中（即在写入的时候保证了主键的唯一性），不需要在读取的时候通过归并排序来对主键进行去重，这对于高频写入的场景来说，大大减少了查询执行时的额外消耗。此外还能够支持谓词下推，并能够很好利用 Doris 丰富的索引，在数据 IO 层面就能够进行充分的数据裁剪，大大减少数据的读取量和计算量，因此在很多场景的查询中都有非常明显的性能提升。

在比较有代表性的 SSB-Flat 数据集上，通过模拟多个持续导入场景，新版本的大部分查询取得了 3-6 倍的性能提升。

使用场景： 所有对主键唯一性有需求，需要频繁进行实时 Upsert 更新的用户建议打开。
使用说明： 作为新的 Feature 默认关闭，用户可以通过在建表时添加下面的 Property 来开启：

“enable_unique_key_merge_on_write” = “true”

复制代码

另外新版本 Merge-On-Write 数据更新模式与旧版本 Merge-On-Read 实现方式存在差异，因此已经创建的 Unique Key 表无法直接通过 Alter Table 添加 Property 来支持，只能在新建表的时候指定。如果用户需要将旧表转换到新表，可以使用insert into new_table select * from old_table的方式来实现。

Multi Catalog 多源数据目录

Multi-Catalog 多源数据目录功能的目标在于能够帮助用户更方便对接外部数据目录，以增强 Apache Doris 的数据湖分析和联邦数据查询能力。

在过去版本中，当我们需要对接外部数据源时，只能在 Database 或 Table 层级对接。当外部数据目录 Schema 发生变化、或者外部数据目录的 Database 或 Table 非常多时，需要用户手工进行一一映射，维护量非常大。1.2.0 版本新增的多源数据目录功能为 Apache Doris 提供了快速接入外部数据源进行访问的能力，用户可以通过CREATE CATALOG命令连接到外部数据源，Doris 会自动映射外部数据源的库、表信息。之后，用户就可以像访问普通表一样，对这些外部数据源中的数据进行访问，避免了之前用户需要对每张表手动建立外表映射的复杂操作。

目前能支持以下数据源：

Hive Metastore：可以访问包括 Hive、Iceberg、Hudi 在内的数据表，也可对接兼容 Hive Metastore 的数据源，如阿里云的 DataLake Formation，同时支持 HDFS 和对象存储上的数据访问。
Elasticsearch：访问 ES 数据源。
JDBC：支持通过 JDBC 访问 MySQL 数据源。

注：相应的权限层级也会自动变更，详见「升级注意事项」部分

轻量表结构变更 Light Schema Change

在过去版本中，SchemaChange 是一项相对消耗比较大的工作，需要对数据文件进行修改，在集群规模和表数据量较大时执行效率会明显降低。同时由于是异步作业，当上游 Schema 发生变更时，需要停止数据同步任务并手动执行 SchemaChange，增加开发和运维成本的同时还可能造成消费数据的积压。

在 1.2.0 新版本中，对数据表的加减列操作，不再需要同步更改数据文件，仅需在 FE 中更新元数据即可，从而实现毫秒级的 Schema Change 操作，且存在导入任务时效率的提升更为显著。与此同时，使得 Apache Doris 在面对上游数据表维度变化时，可以更加快速稳定实现表结构同步，保证系统的高效且平稳运转。如用户可以通过 Flink CDC，可实现上游数据库到 Doris 的 DML 和 DDL 同步，进一步提升了实时数仓数据处理和分析链路的时效性与便捷性。

使用说明： 作为新的 Feature 默认关闭，用户可以通过在建表时添加下面的 Property 来开启：

"light_schema_change" = "true"

复制代码

JDBC 外部表

在过去版本中，Apache Doris 提供了 ODBC 外部表的方式来访问 MySQL、Oracle、SQL Server、PostgreSQL 等数据源，但由于 ODBC 驱动版本问题可能造成系统的不稳定。相对于 ODBC，JDBC 接口更为统一且支持数据库众多，因此在 1.2.0 版本中我们实现了 JDBC 外部表以替换原有的 ODBC 外部表。在新版本中，用户可以通过 JDBC 连接支持 JDBC 协议的外部数据源，当* 前已适配的数据源包括*：

MySQL
PostgreSQL
Oracle
SQLServer
ClickHouse

更多数据源的适配已经在规划之中，原则上任何支持 JDBC 协议访问的数据库均能通过 JDBC 外部表的方式来访问。而之前的 ODBC 外部表功能将会在后续的某个版本中移除，还请尽量切换到 JDBC 外表功能。

JAVA UDF

在过去版本中，Apache Doris 提供了 C++ 语言的原生 UDF，便于用户通过自己编写自定义函数来满足特定场景的分析需求。但由于原生 UDF 与 Doris 代码耦合度高、当 UDF 出现错误时可能会影响集群稳定性，且只支持 C++ 语言，对于熟悉 Hive、Spark 等大数据技术栈的用户而言存在较高门槛，因此在 1.2.0 新版本我们增加了 Java 语言的自定义函数，支持通过 Java 编写 UDF/UDAF，方便用户在 Java 生态中使用。同时，通过堆外内存、Zero Copy 等技术，使得跨语言的数据访问效率大幅提升。

示例：https://github.com/apache/doris/tree/master/samples/doris-demo

Remote UDF

远程 UDF 支持通过 RPC 的方式访问远程用户自定义函数服务，从而彻底消除用户编写 UDF 的语言限制，用户可以使用任意编程语言实现自定义函数，完成复杂的数据分析工作。

示例：https://github.com/apache/doris/tree/master/samples/doris-demo

Array/JSONB 复合数据类型

Array 类型

支持了数组类型，同时也支持多级嵌套的数组类型。在一些用户画像，标签等场景，可以利用 Array 类型更好的适配业务场景。同时在新版本中，我们也实现了大量数组相关的函数，以更好的支持该数据类型在实际场景中的应用。

JSONB 类型

支持二进制的 JSON 数据类型 JSONB。该类型提供更紧凑的 JSONB 编码格式，同时提供在编码格式上的数据访问，相比于使用字符串存储的 JSON 数据，有数倍的性能提升。

DateV2/DatatimeV2 新版日期/日期时间数据类型

支持 DataV2 日期类型和 DatatimeV2 日期时间类型，相较于原有的 Data 和 Datatime 效率更高且支持最多到微秒的时间精度，建议使用新版日期类型。

相关文档：

影响范围：

用户需要在建表时指定 DateV2 和 DatetimeV2，原有表的 Date 以及 Datetime 不受影响。
Datev2 和 Datetimev2 在与原来的 Date 和 Datetime 做计算时（例如等值连接），原有类型会被 cast 成新类型做计算
Example 相关文档中说明

全新内存管理框架

在 Apache Doris 1.2.0 版本中我们增加了全新的内存跟踪器（Memory Tracker），用以记录 Doris BE 进程内存使用，包括查询、导入、Compaction、Schema Change 等任务生命周期中使用的内存以及各项缓存。通过 Memory Tracker 实现了更加精细的内存监控和控制，大大减少了因内存超限导致的 OOM 问题，使系统稳定性进一步得到提升。

Table Valued Function 表函数

增加了 Table Valued Function（TVF，表函数），TVF 可以视作一张普通的表，可以出现在 SQL 中所有“表”可以出现的位置，让用户像访问关系表格式数据一样，读取或访问来自 HDFS 或 S3 上的文件内容，

例如使用 S3 TVF 实现对象存储上的数据导入：

insert into tbl select * from s3("s3://bucket/file.*", "ak" = "xx","sk" = "xxx") where c1 > 2;

复制代码

或者直接查询 HDFS 上的数据文件：

insert into tbl select * from hdfs("hdfs://bucket/file.*") where c1 > 2;

复制代码

TVF 可以帮助用户充分利用 SQL 丰富的表达能力，灵活处理各类数据。

相关文档：

升级注意事项

FE 元数据版本变更【重要】

FE Meta Version 由 107 变更为 114，因此从 1.1.x 以及更早版本升级至 1.2.0 版本后，不可回滚到之前版本。

升级过程中，建议通过灰度升级的方式，先升级部分节点并观察业务运行情况，以降低升级风险，若执行非法的回滚操作将可能导致数据丢失与损坏。

行为改变

权限层级变更，因为引入了 Catalog 层级，所以相应的用户权限层级也会自动变更。规则如下：
GlobalPrivs 和 ResourcePrivs 保持不变
新增 CatalogPrivs 层级。
原 DatabasePrivs 层级增加 internal 前缀（表示 internal catalog 中的 db）
原 TablePrivs 层级增加 internal 前缀（表示 internal catalog 中的 tbl）
GroupBy 和 Having 子句中，优先使用列名而不是别名进行匹配。
不再支持创建以 "mv " 开头的列。"mv" 是物化视图中的保留关键词
移除了 orderby 语句默认添加的 65535 行的 Limit 限制，并增加 Session 变量default_order_by_limit可以自定配置这个限制。
"Create Table As Select" 生成的表，所有字符串列统一使用 String 类型，不再区分 varchar/char/string
audit log 中，移除 db 和 user 名称前的default_cluster字样。
audit log 中增加 sql digest 字段
union 子句总 order by 逻辑变动。新版本中，order by 子句将在 union 执行完成后执行，除非通过括号进行显式的关联。
进行 Decommission 操作时，会忽略回收站中的 Tablet，确保 Decomission 能够完成。
Decimal 的返回结果将按照原始列中声明的精度进行显示，或者按照显式指定的 Cast 函数中的精度进行展示。
列名的长度限制由 64 变更为 256
FE 配置项变动
默认开启enable_vectorized_load参数。
增大了 create_table_timeout值。建表操作的默认超时时间将增大。
修改 stream_load_default_timeout_second默认值为 3 天。
修改alter_table_timeout_second的默认值为一个月。
增加参数 max_replica_count_when_schema_change用于限制 alter 作业中涉及的 Replica 数量，默认为 100000。
添加 disable_iceberg_hudi_table。默认禁用了 Iceberg 和 Hudi 外表，推荐使用 Multi Catalog 功能。
BE 配置项变动
移除了 disable_stream_load_2pc参数。2PC 的 Stream Load 可直接使用。
修改tablet_rowset_stale_sweep_time_sec从 1800 秒修改为 300 秒。
Session 变量变动
修改变量enable_insert_strict默认为 true。这会导致一些之前可以执行，但是插入了非法值的 insert 操作，不再能够执行。
修改变量enable_local_exchange默认为 true
默认通过 lz4 压缩进行数据传输，通过变量 fragment_transmission_compression_codec控制
增加 skip_storage_engine_merge变量，用于调试 Unique 或 Agg 模型的数据。相关* *文档：**https://doris.apache.org/zh-CN/docs/dev/advanced/variables
BE 启动脚本会通过/proc/sys/vm/max_map_count 检查数值是否大于 200W，否则启动失败。
移除了 mini load 接口

升级过程需注意

升级准备

需替换：lib, bin 目录（start/stop 脚本均有修改）
BE 也需要配置JAVA_HOME，已支持 JDBC Table 和 Java UDF。
fe.conf中默认JVM Xmx参数修改为 8GB。

升级过程中可能的错误

Repeat 函数不可使用并报错：vectorized repeat function cannot be executed，可以在升级前先关闭向量化执行引擎。
Schema Change 失败并报错：desc_tbl is not set. Maybe the FE version is not equal to the BE
向量化 Hash Join 不可使用并报错。vectorized hash join cannot be executed 可以在升级前先关闭向量化执行引擎。

以上错误在完全升级后会恢复正常。

性能影响

默认使用 JeMalloc 作为新版本 BE 的内存分配器，替换 TcMalloc 。JeMalloc 相比 TcMalloc 使用的内存更少、高并发场景性能更高，但在内存充足的性能测试时，TcMalloc 比 JeMalloc 性能高 5%-10%，详细测试见: https://github.com/apache/doris/pull/12496
tablet sink中batch size 修改为至少 8K。
默认关闭 Page Cache 和减少 Chunk Allocator 预留内存大小。

Page Cache 和 Chunk Allocator 分别缓存用户数据块和内存预分配，这两个功能会占用一定比例的内存并且不会释放。由于这部分内存占用无法灵活调配，导致在某些场景下可能因这部分内存占用而导致其他任务内存不足，影响系统稳定性和可用性，因此新版本中默认关闭了这两个功能。

但在某些延迟敏感的报表场景下，关闭该功能可能会导致查询延迟增加。如用户担心升级后该功能对业务造成影响，可以通过在 be.conf中增加以下参数以保持和之前版本行为一致。

disable_storage_page_cache=falsechunk_reserved_bytes_limit=10%)

复制代码

API 变化

BE 的 HTTP API 错误返回信息，由{"status": "Fail", "msg": "xxx"}变更为更具体的{"status":"Notfound","msg":"Tabletnotfound.tablet_id=1202"}
SHOW CREATE TABLE中， Comment 的内容由双引号包裹变为单引号包裹
支持普通用户通过 HTTP 命令获取 Query Profile。相关文档：https://doris.apache.org/zh-CN/docs/dev/admin-manual/http-actions/fe/manager/query-profile-action
优化了 Sequence 列的指定方式，可以直接指定列名。相关文档：https://doris.apache.org/zh-CN/docs/dev/data-operate/update-delete/sequence-column-manual
show backends和show tablets返回结果中，增加远端存储的空间使用情况
移除了 Num-Based Compaction 相关代码
重构了 BE 的错误码机制，部分返回的错误信息会发生变化

其他

支持 Docker 官方镜像。
支持在 MacOS(x86/M1) 和 ubuntu-22.04 上编译 Doris。
支持进行 image 文件的校验。相关文档：https://doris.apache.org/zh-CN/docs/dev/admin-manual/maint-monitor/metadata-operation
脚本相关
FE、BE 的 stop 脚本支持通过--grace参数退出 FE、BE（使用 kill -15 信号代替 kill -9）
FE start 脚本支持通过 --version查看当前 FE 版本
支持通过 ADMIN COPY TABLET 命令获取某个 tablet 的数据和相关建表语句，用于本地问题调试。相关文档：https://doris.apache.org/zh-CN/docs/dev/sql-manual/sql-reference/Database-Administration-Statements/ADMIN-COPY-TABLET
支持通过 http api，获取一个 SQL 语句相关的建表语句，用于本地问题复现。相关文档：https://doris.apache.org/zh-CN/docs/dev/admin-manual/http-actions/fe/query-schema-action
支持建表时关闭此表的 Compaction 功能，用于测试。相关文档：https://doris.apache.org/zh-CN/docs/dev/sql-manual/sql-reference/Data-Definition-Statements/Create/CREATE-TABLE

致谢

Apache Doris 1.2.0 版本的发布离不开所有社区用户的支持，在此向所有参与版本设计、开发、测试、讨论的社区贡献者们表示感谢，他们分别是（首字母排序）：

贡献者名单

@924060929
@a19920714liou
@adonis0147
@Aiden-Dong
@aiwenmo
@AshinGau
@b19mud
@BePPPower
@BiteTheDDDDt
@bridgeDream
@ByteYue
@caiconghui
@CalvinKirs
@cambyzju
@caoliang-web
@carlvinhust2012
@catpineapple
@ccoffline
@chenlinzhong
@chovy-3012
@coderjiang
@cxzl25
@dataalive
@dataroaring
@dependabot
@dinggege1024
@DongLiang-0
@Doris-Extras
@eldenmoon
@EmmyMiao87
@englefly
@FreeOnePlus
@Gabriel39
@gaodayue
@geniusjoe
@gj-zhang
@gnehil
@GoGoWen
@HappenLee
@hello-stephen
@Henry2SS
@hf200012
@huyuanfeng2018
@jacktengg
@jackwener
@jeffreys-cat
@Jibing-Li
@JNSimba
@Kikyou1997
@Lchangliang
@LemonLiTree
@lexoning
@liaoxin01
@lide-reed
@link3280
@liutang123
@liuyaolin
@LOVEGISER
@lsy3993
@luozenglin
@luzhijing
@madongz
@morningman
@morningman-cmy
@morrySnow
@mrhhsg
@Myasuka
@myfjdthink
@nextdreamblue
@pan3793
@pangzhili
@pengxiangyu
@platoneko
@qidaye
@qzsee
@SaintBacchus
@SeekingYang
@smallhibiscus
@sohardforaname
@song7788q
@spaces-X
@ssusieee
@stalary
@starocean999
@SWJTU-ZhangLei
@TaoZex
@timelxy
@Wahno
@wangbo
@wangshuo128
@wangyf0555
@weizhengte
@weizuo93
@wsjz
@wunan1210
@xhmz
@xiaokang
@xiaokangguo
@xinyiZzz
@xy720
@yangzhg
@Yankee24
@yeyudefeng
@yiguolei
@yinzhijian
@yixiutt
@yuanyuan8983
@zbtzbtzbt
@zenoyang
@zhangboya1
@zhangstar333
@zhannngchen
@ZHbamboo
@zhengshiJ
@zhenhb
@zhqu1148980644
@zuochunwei
@zy-kkk

发布于: 14 小时前阅读数: 26

原文链接:【http://xie.infoq.cn/article/2a11160bfc7e86b8412752cef】。文章转载请联系作者。

SelectDB

关注

极速易用开源开放 2022-04-20 加入

The enterprise-grade cloud-native distribution for Apache Doris.

发布

暂无评论

创作场景

全面进化！Apache Doris 1.2.0 Release 版本正式发布｜版本通告

下载安装

下载说明

部署说明

重要更新

全面向量化支持，性能大幅提升

UniqueKey 模型实现 Merg-On-Write 数据更新模式

Multi Catalog 多源数据目录

轻量表结构变更 Light Schema Change

JDBC 外部表

JAVA UDF

Remote UDF

Array/JSONB 复合数据类型

Array 类型

JSONB 类型

DateV2/DatatimeV2 新版日期/日期时间数据类型

全新内存管理框架

Table Valued Function 表函数

更多功能

1. 更便捷的分区创建方式

2. 列重命名

3. 更丰富的权限管理

4. 导入相关

5. 支持通过 SHOW CATALOG RECYCLE BIN 功能查看回收站中的内容。

6. 支持SELECT * EXCEPT语法

7. OUTFILE 支持 ORC 格式导出，并且支持多字节分隔符

8. 支持通过配置修改可保存的 Query Profile 的数量。

9.DELETE 语句支持 IN 谓词条件，并且支持分区裁剪。

10. 时间列的默认值支持使用CURRENT_TIMESTAMP

11. 添加两张系统表：backends、rowsets

12. 备份恢复

13. 支持同机多磁盘之间的数据均衡

14. Routine Load 支持订阅 Kerberos 认证的 Kafka 服务。

15. New built-in-function 新增内置函数

升级注意事项

FE 元数据版本变更 【重要】

行为改变

升级过程需注意

性能影响

API 变化

其他

致谢

SelectDB

评论

6. 支持`SELECT * EXCEPT`语法

10. 时间列的默认值支持使用`CURRENT_TIMESTAMP`

FE 元数据版本变更【重要】