写点什么

CDH5 部署三部曲之二:部署和设置

作者:程序员欣宸
  • 2022-11-28
    广东
  • 本文字数:1707 字

    阅读完需:约 6 分钟

CDH5部署三部曲之二:部署和设置

欢迎访问我的 GitHub

这里分类和汇总了欣宸的全部原创(含配套源码):https://github.com/zq2599/blog_demos


系列文章链接

  1. 《CDH5部署三部曲之一:准备工作》

  2. 《CDH5部署三部曲之二:部署和设置》

  3. 《CDH5部署三部曲之三:问题总结》

master 机器上的设置

  • SSH 登录 master 机器,执行以下操作:

  • 安装 mariadb:


yum install mariadb-server
复制代码


  • 启动 mariadb 服务,并设置为开机启动:


systemctl start mariadb && systemctl enable mariadb
复制代码


  • 初始化数据库配置:


mysql_secure_installation
复制代码


  • 按照控制台提示进行设置,主要是设置 root 账号的密码,以及允许 root 账号远程登录;

  • 登录 mariadb:


mysql -u root -p123456
复制代码


  • 给 root 的远程操作开放所有权限,并且刷新:


GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY '123456' WITH GRANT OPTION;flush privileges;
复制代码


  • 创建 parcel 的本地仓库的文件夹,并且设置所有者和群组:


mkdir -p /opt/cloudera/parcel-repochown cloudera-scm:cloudera-scm /opt/cloudera/parcel-repo
复制代码


  • 将前面下载好的三个文件放入目录 /opt/cloudera/parcel-repo ,这三个文件是: CDH-5.7.6-1.cdh5.7.6.p0.6-el7.parcelmanifest.jsonCDH-5.7.6-1.cdh5.7.6.p0.6-el7.parcel.sha1

  • /opt/cloudera/parcel-repo 目录下的 CDH-5.7.6-1.cdh5.7.6.p0.6-el7.parcel.sha1 文件改名为 CDH-5.7.6-1.cdh5.7.6.p0.6-el7.parcel.sha (即:把后缀从 sha1 改成 sha)

  • 接下来初始化 CM 数据,登录 mariadb:


mysql -u root -p123456
复制代码


  • 给 temp 账号赋予权限,并且刷新:


create user 'temp'@'%' identified by 'temp';grant all on *.* to 'temp'@'%' identified by 'temp' with grant option;flush privileges;
复制代码


  • 退出 mariadb 交互;

  • 进入目录 /opt/cloudera-manager/cm-5.7.2/share/cmf/schema/


cd /opt/cloudera-manager/cm-5.7.2/share/cmf/schema/
复制代码


  • 执行以下命令即可初始化 CM 的数据:


./scm_prepare_database.sh mysql temp -h master -utemp -ptemp --scm-host master scm scm scm
复制代码


  • 提示操作成功:

  • 至此,master 设置完毕,接下来设置 worker1 和 worker2

worker1 机器上的设置(worker2 也这样设置)

  • 创建本地 parcel 缓存文件夹:


mkdir -p /opt/cloudera/parcels
复制代码


  • 给文件夹赋权限:


chown cloudera-scm:cloudera-scm /opt/cloudera/parcels
复制代码


  • worker1 和 worker2 都做上述设置,接下来就可以启动 CDH 了。

启动 server(master 机器)

  • SSH 登录 master;

  • 进入启动命令所在目录:


cd /opt/cloudera-manager/cm-5.7.2/etc/init.d/
复制代码


  • 启动 server:


./cloudera-scm-server start
复制代码


  • 启动成功的提示信息如下:


启动 agent(worker1 和 worker2 机器)

  • SSH 登录 worker1;

  • 进入启动命令所在目录:


cd /opt/cloudera-manager/cm-5.7.2/etc/init.d/
复制代码


  • 启动 agent:


./cloudera-scm-agent start
复制代码


  • 启动成功的提示信息如下:


  • 然后登录 worker2,重复上述操作;

  • 至此,CDH 部署和启动完成,可以开始设置了;

设置 CDH

  • 浏览器访问地址: http://192.168.133.154:7180 ,会提示登录,账号和密码都是 admin


  • 接下来的页面是许可条款,选择接受后进入选择版本的页面,我这里选择的是试用版,如下图:


  • 即将部署多个服务:


  • 进入选择机器的页面,如下图红框所示,将 worker1 和 worker2 都勾选上:


  • parcel 设置,如下所示:


  • 由于之前已经将 parcel 文件下载到 master 机器上,因此下载安装包的进度一开始就是百分之百,耐心等待后面的分配、解压、激活等步骤自动完成:


  • 集群安装完成,如下图,可以按照提示进行优化:


  • 部署服务,这里我选择了所有服务:


  • 角色设置页面,将没有分配主机的服务分配到某一台机器上,我这里都选择了 worker1:


  • 数据库的设置页面,由于只在 master 安装了 mysql,所有我这里全部填写的是 master:


  • 详细的设置页面,请按照实际情况设置:


  • 开始启动各个服务,等待完成:


  • 所有服务正常后,状态页面如下图所示:


  • 至此,CDH5 部署和启动都已完成,但实际的启动过程并非一帆风顺,HDFS、Hive 等服务都可能启动失败,下一篇文章会将这些问题以及解决方法都列出来;

欢迎关注 InfoQ:程序员欣宸

学习路上,你不孤单,欣宸原创一路相伴...


发布于: 刚刚阅读数: 4
用户头像

搜索"程序员欣宸",一起畅游Java宇宙 2018-04-19 加入

前腾讯、前阿里员工,从事Java后台工作,对Docker和Kubernetes充满热爱,所有文章均为作者原创,个人Github:https://github.com/zq2599/blog_demos

评论

发布
暂无评论
CDH5部署三部曲之二:部署和设置_大数据_程序员欣宸_InfoQ写作社区