Ambari 是一个用于管理 Hadoop 集群的工具,虽然 Ambari 本身并不直接支持 DolphinScheduler 的安装,但我们可以通过自定义服务的方式将其集成到 Ambari 中。本文将描述如何使用 Ambari 安装 DolphinScheduler。
Ambari 的服务安装包
将需要集成到 Ambari 的服务安装包放到该目录下
/var/lib/ambari-server/resources/stacks/HDP/3.1/services
复制代码
重启 Ambari-server 服务
sudo ambari-server restart
复制代码
继承完之后在 Ambari 页面上进行服务安装
添加服务选择 dolphinscheduler
DolphinScheduler 服务配置
这个选择使用 mysql 数据作为 dolphinscheduler 服务的元数据库。
服务选择进行安装
选择两个 DS-master,至少两个 DS-ALTERS,DS-APIS,其余节点都部署 DS-worker 节点。
如果在安装 DolphinScheduler 之前做了namenode-ha
则可能会报'hue-desktop-ini'
相关报错,则需要对params.py
脚本进行修改。
脚本位置
/var/lib/ambari-server/resources/stacks/HDP/3.3/services/DOLPHINSCHEDULER/package/scripts/params.py
修改内容
#hdfs_httpfs_host = config['configurations']['hue-desktop-ini']['hdfs_httpfs_host']
hdfs_httpfs_host = "dfs_ha_enabled"
注释#hdfs_httpfs_host = config['configurations']['hue-desktop-ini']['hdfs_httpfs_host']
给hdfs_httpfs_host 任意赋值一个参数让下边的webhdfs_url直接取第一个namenode_hosts[0]
复制代码
修改完之后保存重启ambari-server
服务重新安装 DolphinScheduler。
拷贝 mysql 驱动到所有节点 libs 目录下
cp /tmp/mysql-connector-j-8.0.33.jar /usr/hdp/current/dolphinscheduler/alert-server/libs/
cp /tmp/mysql-connector-j-8.0.33.jar /usr/hdp/current/dolphinscheduler/api-server/libs/
cp /tmp/mysql-connector-j-8.0.33.jar /usr/hdp/current/dolphinscheduler/master-server/libs/
cp /tmp/mysql-connector-j-8.0.33.jar /usr/hdp/current/dolphinscheduler/worker-server/libs/
cp /tmp/mysql-connector-j-8.0.33.jar /usr/hdp/3.3.1.0-004/dolphinscheduler/tools/libs/
复制代码
因为第二步配置的用户为 hdfs 用户所以需要将所有服务所属组改为 hdfs
/var/log/dolphinscheduler
/usr/hdp/3.3.1.0-004/dolphinscheduler
/etc/dolphinscheduler/
chown -R hdfs:hdfs dolphinscheduler
sdo ln -s /usr/hdp/3.1.4.0-315/dolphinscheduler dolphinscheduler
复制代码
修改完之后 ambari 管理平台上启动 DolphinScheduler,启动过程中元数据会自动初始化建表。
转载自 whiteY,原文链接:https://www.cnblogs.com/whiteY/p/18046586
评论