写点什么

用 Ambari 安装 DolphinScheduler,超简单!

作者:白鲸开源
  • 2025-02-10
    天津
  • 本文字数:1030 字

    阅读完需:约 3 分钟

用Ambari安装DolphinScheduler,超简单!

Ambari 是一个用于管理 Hadoop 集群的工具,虽然 Ambari 本身并不直接支持 DolphinScheduler 的安装,但我们可以通过自定义服务的方式将其集成到 Ambari 中。本文将描述如何使用 Ambari 安装 DolphinScheduler。


Ambari 的服务安装包


将需要集成到 Ambari 的服务安装包放到该目录下

/var/lib/ambari-server/resources/stacks/HDP/3.1/services
复制代码


重启 Ambari-server 服务


sudo ambari-server restart
复制代码

继承完之后在 Ambari 页面上进行服务安装

  1. 添加服务选择 dolphinscheduler 



  1. DolphinScheduler 服务配置

这个选择使用 mysql 数据作为 dolphinscheduler 服务的元数据库。



  1. 服务选择进行安装

选择两个 DS-master,至少两个 DS-ALTERS,DS-APIS,其余节点都部署 DS-worker 节点。



  1. 如果在安装 DolphinScheduler 之前做了namenode-ha则可能会报'hue-desktop-ini'相关报错,则需要对params.py脚本进行修改。

脚本位置  /var/lib/ambari-server/resources/stacks/HDP/3.3/services/DOLPHINSCHEDULER/package/scripts/params.py 修改内容#hdfs_httpfs_host = config['configurations']['hue-desktop-ini']['hdfs_httpfs_host'] hdfs_httpfs_host = "dfs_ha_enabled" 注释#hdfs_httpfs_host = config['configurations']['hue-desktop-ini']['hdfs_httpfs_host']给hdfs_httpfs_host 任意赋值一个参数让下边的webhdfs_url直接取第一个namenode_hosts[0]
复制代码



修改完之后保存重启ambari-server服务重新安装 DolphinScheduler。

  1. 拷贝 mysql 驱动到所有节点 libs 目录下

cp /tmp/mysql-connector-j-8.0.33.jar /usr/hdp/current/dolphinscheduler/alert-server/libs/cp /tmp/mysql-connector-j-8.0.33.jar /usr/hdp/current/dolphinscheduler/api-server/libs/cp /tmp/mysql-connector-j-8.0.33.jar /usr/hdp/current/dolphinscheduler/master-server/libs/cp /tmp/mysql-connector-j-8.0.33.jar /usr/hdp/current/dolphinscheduler/worker-server/libs/cp /tmp/mysql-connector-j-8.0.33.jar /usr/hdp/3.3.1.0-004/dolphinscheduler/tools/libs/
复制代码
  1. 因为第二步配置的用户为 hdfs 用户所以需要将所有服务所属组改为 hdfs

/var/log/dolphinscheduler/usr/hdp/3.3.1.0-004/dolphinscheduler/etc/dolphinscheduler/ chown -R hdfs:hdfs dolphinscheduler sdo ln -s /usr/hdp/3.1.4.0-315/dolphinscheduler dolphinscheduler
复制代码

修改完之后 ambari 管理平台上启动 DolphinScheduler,启动过程中元数据会自动初始化建表。

转载自 whiteY,原文链接:https://www.cnblogs.com/whiteY/p/18046586

用户头像

白鲸开源

关注

一家开源原生的DataOps商业公司。 2022-03-18 加入

致力于打造下一代开源原生的DataOps 平台,助力企业在大数据和云时代,智能化地完成多数据源、多云及信创环境的数据集成、调度开发和治理,以提高企业解决数据问题的效率,提升企业分析洞察能力和决策能力。

评论

发布
暂无评论
用Ambari安装DolphinScheduler,超简单!_ambari_白鲸开源_InfoQ写作社区