写点什么

Hadoop 运行环境搭建

作者:编程江湖
  • 2022 年 2 月 07 日
  • 本文字数:2120 字

    阅读完需:约 7 分钟

 一、虚拟机环境准备

1.    克隆虚拟机                                                      

2.    修改克隆虚拟机的静态 IP

3.    修改主机名

4.    关闭防火墙

5.    创建 atguigu 用户

6.    配置 atguigu 用户具有 root 权限(详见《尚硅谷大数据技术之 Linux》)

7.在/opt 目录下创建文件夹

(1)在/opt 目录下创建 module、software 文件夹

[atguigu@hadoop101 opt]$ sudo mkdir module

[atguigu@hadoop101 opt]$ sudo mkdir software

(2)修改 module、software 文件夹的所有者 cd

[atguigu@hadoop101 opt]$ sudo chown atguigu:atguigu module/ software/

[atguigu@hadoop101 opt]$ ll

总用量 8

drwxr-xr-x. 2 atguigu atguigu 4096 1 月  17 14:37 module

drwxr-xr-x. 2 atguigu atguigu 4096 1 月  17 14:38 software

二、 安装 JDK

1.    卸载现有 JDK

(1)查询是否安装 Java 软件:

[atguigu@hadoop101 opt]$ rpm -qa | grep java

(2)如果安装的版本低于 1.7,卸载该 JDK:

[atguigu@hadoop101 opt]$ sudo rpm -e 软件包

(3)查看 JDK 安装路径:

[atguigu@hadoop101 ~]$ which java

2.    用 SecureCRT 工具将 JDK 导入到 opt 目录下面的 software 文件夹下面,如图 2-28 所示



图 2-28  导入 JDK

“alt+p”进入 sftp 模式,如图 2-29 所示



图 2-29 进入 sftp 模式

选择 jdk1.8 拖入,如图 2-30,2-31 所示



图 2-30 拖入 jdk1.8



图 2-31 拖入 jdk1.8 完成

3.在 Linux 系统下的 opt 目录中查看软件包是否导入成功

[atguigu@hadoop101 opt]$ cd software/

[atguigu@hadoop101 software]$ ls

hadoop-2.7.2.tar.gz  jdk-8u144-linux-x64.tar.gz

4.解压 JDK 到/opt/module 目录下

[atguigu@hadoop101 software]$ tar -zxvf jdk-8u144-linux-x64.tar.gz -C /opt/module/

5. 配置 JDK 环境变量

(1)先获取 JDK 路径

[atguigu@hadoop101 jdk1.8.0_144]$ pwd

/opt/module/jdk1.8.0_144

(2)打开/etc/profile 文件

[atguigu@hadoop101 software]$ sudo vi /etc/profile

在 profile 文件末尾添加 JDK 路径

#JAVA_HOME

export JAVA_HOME=/opt/module/jdk1.8.0_144

export PATH=$PATH:$JAVA_HOME/bin

(3)保存后退出

:wq

(4)让修改后的文件生效

[atguigu@hadoop101 jdk1.8.0_144]$ source /etc/profile

6.    测试 JDK 是否安装成功

[atguigu@hadoop101 jdk1.8.0_144]# java -version

java version "1.8.0_144"

 注意:重启(如果 java -version 可以用就不用重启)

[atguigu@hadoop101 jdk1.8.0_144]$ sync

[atguigu@hadoop101 jdk1.8.0_144]$ sudo reboot

三、 安装 Hadoop

0.  Hadoop 下载地址:

Index of /dist/hadoop/common/hadoop-2.7.2

1、用 SecureCRT 工具将 hadoop-2.7.2.tar.gz 导入到 opt 目录下面的 software 文件夹下面

切换到 sftp 连接页面,选择 Linux 下编译的 hadoop jar 包拖入,如图 2-32 所示


图 2-32 拖入 hadoop 的 tar 包


图 2-33 拖入 Hadoop 的 tar 包成功

2、进入到 Hadoop 安装包路径下

[atguigu@hadoop101 ~]$ cd /opt/software/

3、解压安装文件到/opt/module 下面

[atguigu@hadoop101 software]$ tar -zxvf hadoop-2.7.2.tar.gz -C /opt/module/

4、查看是否解压成功

[atguigu@hadoop101 software]$ ls /opt/module/

hadoop-2.7.2

5.    将 Hadoop 添加到环境变量

(1)获取 Hadoop 安装路径

[atguigu@hadoop101 hadoop-2.7.2]$ pwd

/opt/module/hadoop-2.7.2

(2)打开/etc/profile 文件

[atguigu@hadoop101 hadoop-2.7.2]$ sudo vi /etc/profile

在 profile 文件末尾添加 JDK 路径:(shitf+g)

##HADOOP_HOME

export HADOOP_HOME=/opt/module/hadoop-2.7.2

export PATH=$PATH:$HADOOP_HOME/bin

export PATH=$PATH:$HADOOP_HOME/sbin

(3)保存后退出

:wq

(4)让修改后的文件生效

[atguigu@ hadoop101 hadoop-2.7.2]$ source /etc/profile

6.    测试是否安装成功

[atguigu@hadoop101 hadoop-2.7.2]$ hadoop version

Hadoop 2.7.2

7.    重启(如果 Hadoop 命令不能用再重启)

[atguigu@ hadoop101 hadoop-2.7.2]$ sync

[atguigu@ hadoop101 hadoop-2.7.2]$ sudo reboot

四、Hadoop 目录结构

1、查看 Hadoop 目录结构

[atguigu@hadoop101 hadoop-2.7.2]$ ll

总用量 52

drwxr-xr-x. 2 atguigu atguigu  4096 5 月  22 2017 bin

drwxr-xr-x. 3 atguigu atguigu  4096 5 月  22 2017 etc

drwxr-xr-x. 2 atguigu atguigu  4096 5 月  22 2017 include

drwxr-xr-x. 3 atguigu atguigu  4096 5 月  22 2017 lib

drwxr-xr-x. 2 atguigu atguigu  4096 5 月  22 2017 libexec

-rw-r--r--. 1 atguigu atguigu 15429 5 月  22 2017 LICENSE.txt

-rw-r--r--. 1 atguigu atguigu   101 5 月  22 2017 NOTICE.txt

-rw-r--r--. 1 atguigu atguigu  1366 5 月  22 2017 README.txt

drwxr-xr-x. 2 atguigu atguigu  4096 5 月  22 2017 sbin

drwxr-xr-x. 4 atguigu atguigu  4096 5 月  22 2017 share

2、重要目录

(1)bin 目录:存放对 Hadoop 相关服务(HDFS,YARN)进行操作的脚本

(2)etc 目录:Hadoop 的配置文件目录,存放 Hadoop 的配置文件

(3)lib 目录:存放 Hadoop 的本地库(对数据进行压缩解压缩功能)

(4)sbin 目录:存放启动或停止 Hadoop 相关服务的脚本

(5)share 目录:存放 Hadoop 的依赖 jar 包、文档、和官方案例

关键词:大数据培训

用户头像

编程江湖

关注

IT技术分享 2021.11.23 加入

还未添加个人简介

评论

发布
暂无评论
Hadoop运行环境搭建