Flink 实践教程 - 入门（5）：写入 ClickHouse

关注

发布于: 4 小时前

作者：腾讯云流计算 Oceanus 团队

流计算 Oceanus 简介

流计算 Oceanus 是大数据产品生态体系的实时化分析利器，是基于 Apache Flink 构建的具备一站开发、无缝连接、亚秒延时、低廉成本、安全稳定等特点的企业级实时大数据分析平台。流计算 Oceanus 以实现企业数据价值最大化为目标，加速企业实时化数字化的建设进程。

本文将为您详细介绍如何使用 Datagen Connector 模拟生成客户视频点击量数据，并利用滚动窗口函数对每分钟内客户的视频点击量进行聚合分析，最后将数据输出到 ClickHouse 的流程。

操作视频

前置准备

创建流计算 Oceanus 集群

进入流计算 Oceanus 控制台 [1]，点击左侧【集群管理】，点击左上方【创建集群】，完成流计算 Oceanus 集群的创建。具体可参考流计算 Oceanus 官方文档创建独享集群 [2]。

创建 ClickHouse 集群

进入 ClickHouse 控制台[3]，点击左上角【新建集群】，完成 ClickHouse 集群的创建。具体可参考 ClickHouse 快速入门 [4]。

注意：创建流计算 Oceanus 集群和 ClickHouse 集群时所选的 VPC 必须相同。

创建 ClickHouse 表：

1.进入与 ClickHouse 集群同 VPC 的某一台 CVM 下，安装 ClickHouse 客户端（下载该客户端需连通外网），具体操作步骤参考 ClickHouse 快速入门 [4]。

# 下载 ClickHouse-Client 命令wget https://repo.yandex.ru/clickhouse/rpm/stable/x86_64/clickhouse-client-20.7.2.30-2.noarch.rpmwget https://repo.yandex.ru/clickhouse/rpm/stable/x86_64/clickhouse-common-static-20.7.2.30-2.x86_64.rpm# 安装客户端rpm -ivh *.rpm# 使用 tcp 端口登陆 ClickHouse 集群，IP 地址可通过控制台查看clickhouse-client -hxxx.xxx.xxx.xxx --port 9000

复制代码

2.登陆 ClickHouse 集群，建表。

CREATE TABLE default.datagen_to_ck on cluster default_cluster (win_start     TIMESTAMP,win_end       TIMESTAMP,user_id       String,amount_total  Int16,Sign          Int8  )ENGINE = ReplicatedCollapsingMergeTree('/clickhouse/tables/{layer}-{shard}/default/datagen_to_ck', '{replica}',Sign)ORDER BY (win_start,win_end,user_id);

复制代码

流计算 Oceanus 作业

1. 创建 Source

CREATE TABLE random_source (     user_id   VARCHAR,    amount    INT,    pre_time  AS CURRENT_TIMESTAMP,    WATERMARK FOR pre_time AS pre_time - INTERVAL '3' SECOND  ) WITH (   'connector' = 'datagen',   'rows-per-second' = '5',            -- 每秒产生的数据条数  'fields.user_id.length' = '1',      -- 随机字符串的长度  'fields.amount.kind' = 'random',    -- 无界的随机数  'fields.amount.min' = '1',          -- 随机数的最小值  'fields.amount.max' = '10'          -- 随机数的最大值);

复制代码

2. 创建 Sink

CREATE TABLE clickhouse (    win_start     TIMESTAMP(3),    win_end       TIMESTAMP(3),    user_id       VARCHAR,    amount_total  BIGINT,    PRIMARY KEY (win_start,win_end,user_id) NOT ENFORCED -- 如果要同步的数据库表定义了主键, 则这里也需要定义) WITH (    -- 指定数据库连接参数    'connector' = 'clickhouse',    'url' = 'clickhouse://10.0.0.178:8123',    -- 如果ClickHouse集群未配置账号密码可以不指定    --'username' = 'root',    --'password' = 'root',    'database-name' = 'default',    'table-name' = 'datagen_to_ck',    'table.collapsing.field' = 'Sign'   -- CollapsingMergeTree 类型列字段的名称);

复制代码

3. 编写业务 SQL

INSERT INTO clickhouseSELECTTUMBLE_START(pre_time,INTERVAL '1' MINUTE) AS win_start,TUMBLE_END(pre_time,INTERVAL '1' MINUTE) AS win_end,user_id,CAST(SUM(amount) AS BIGINT) AS amount_totalFROM random_sourceGROUP BY TUMBLE(pre_time,INTERVAL '1' MINUTE),user_id;

复制代码