Hadoop2.7.3完全分布式集群搭建和测试

云计算 waitig 424℃ 百度已收录 0评论

转载至:http://blog.csdn.net/xiaoxiangzi222/article/details/52757168

1.安装虚拟机

   在VM上安装下载好的Ubuntu的系统,具体过程自行百度。可以安装完一个以后克隆,但是本人安装过程中遇到很多问题,经常需要删除虚拟机,重新安装,而被克隆的虚拟机不能删除,所以本人就用了很长时候,一个一个安装。
一共3台虚拟机:分配情况和IP地址如下:
(注:查看ip地址的指令   ifconfig)
安装虚拟机时可以设置静态IP,因为过程中常常遇到网络连接问题,ifconfig找不到IPV4地址。当然,也可以不设,默认分配。
参考  http://blog.csdn.net/wolf_soul/article/details/46409323

                192.168.159.132    master
                192.168.159.134    node1
                192.168.159.137    node2

2.修改虚拟机的hostname和hosts文件

以master上机器为例,打开终端,执行如下的操作,把hostname修改成master,hosts修改成如下所示的样子:

#修改hostname的指令:
sudo gedit /etc/hostname
#修改hosts指令:
sudo gedit /etc/hosts
#将以下内容添加到hosts中
192.168.159.132    master
192.168.159.134    node1
192.168.159.137    node2

如下图所示:




同样地,在node1和node2机器上做相似的操作,分别更改主机名为node1和node2,然后把hosts文件更改和master一样。

3.创建用户和用户组(三台机器上都要操作)

1. 创建hadoop用户组

sudo addgroup hadoop

2. 创建hadoop用户

sudo adduser -ingroup hadoop hadoop

3. 给hadoop用户添加权限,打开/etc/sudoers文件

sudo gedit /etc/sudoers

按回车键后就会打开/etc/sudoers文件了,给hadoop用户赋予root用户同样的权限
在root  ALL=(ALL:ALL)  ALL下添加hadoop  ALL=(ALL:ALL)  ALL

4.检验各个主机之间能否连通

分别以刚刚创建的hadoop用户重新登录系统,以后的操作都以hadoop用户登录。

ping +主机名

分别在各个主机上执行上述指令,看是否能与其他主机连通。
出现下图代表能够连通:


如果都成功ping通,进行下面的操作。

5.安装jdk和配置环境变量

分别在每台主机上安装jdk,并配置环境变量。(嫌麻烦的前面可以安装完jdk后再克隆)

1)下载jdk安装包(自行百度),并将安装包拖入到虚拟机当中

2)通过cd命令进入到安装包的当前目录,利用如下命令进行解压缩。

tar -zxvf jdk.....(安装包名称)

3)利用如下命令将解压后的文件夹移到/usr目录下 

#注意,这样移动到/usr以后就没有jdk1.8...这个目录了,是将这个目录下的所有文件全部移动到/usr/java下,
mv jdk1.8...(文件夹名称) /usr/java

4)配置环境变量

sudo gedit /etc/profile

在末尾加上四行:

[plain]
view plain
copy

print
?

  1. #java    
  2. export JAVA_HOME=/usr/java   
  3. export JRE_HOME=/usr/java/jre    
  4. export CLASSPATH=$JAVA_HOME/lib    
  5. export PATH=:$PATH:$JAVA_HOME/bin:$JRE_HOME/bin  

输入如下命令使配置生效:source /etc/profile

查看配置是否成功,


出现如上信息说明java配置成功。

6.配置SSH,实现节点间的无密码登录

本人在这一步经常出错,莫名其妙的错误,网上也找不到资料。需要自己多实验几次。
下面的 1.2.3在所有主机上都要做

1..安装ssh

[plain]
view plain
copy

print
?

  1. sudo apt-get install openssh-server  

已有ssh或者安装成功了的输入命令

[plain]
view plain
copy

print
?

  1. ps -e | grep ssh  

验证SSH是否成功安装输入

[plain]
view plain
copy

print
?

  1. ssh localhost  

出现以下提示说明安装成功


3.生成密钥Pair

ssh-keygen -t rsa

输入之后一直选择enter即可。生成的秘钥位于 ~/.ssh文件夹下。可用cd 命令进入查看。

4.在master上,导入authorized_keys

cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys

5.远程无密码登录(把master上的authorized_keys拷贝到其他主机的相应目录下)

#进入master的.ssh目录,执行复制操作
scp authorized_keys hadoop@node1:~/.ssh/
scp authorized_keys hadoop@node2:~/.ssh/

修改各台主机上authorized_keys文件的权限:

所有机器上,均执行命令:

chmod 600 .ssh/authorized_keys

完成之后,在master上执行下面操作,检查免密码登录是否成功。

ssh node1(node2)


7.master配置hadoop,然后将master的hadoop文件传送给node节点

1)解包移动

[plain]
view plain
copy

print
?

  1. #解压hadoop包  
  2. tar -zxvf hadoop…  
  3. #将安装包移到/usr目录下  
  4. mv hadoop… /usr/hadoop  

2)新建文件夹

[plain]
view plain
copy

print
?

  1. #在/usr/hadoop目录下新建如下目录(root)  
  2. mkdir /dfs  
  3. mkdir /dfs/name  
  4. mkdir /dfs/data  
  5. mkdir /tmp  

3)配置文件:hadoop-env.sh(文件都在/usr/hadoop/etc/hadoop中)

修改JAVA_HOME值(export JAVA_HOME=/usr/java) 


4)配置文件:yarn-env.sh

修改JAVA_HOME值(export JAVA_HOME=/usr/java

5)配置文件:slaves

将内容修改为:

node1
node2

6)配置文件:core-site.xml

[html]
view plain
copy

print
?

  1. <configuration>  
  2.     <property>  
  3.         <name>fs.defaultFS</name>  
  4.         <value>hdfs://master:9000</value>  
  5.     </property>  
  6.     <property>  
  7.         <name>io.file.buffer.size</name>  
  8.         <value>131072</value>  
  9.     </property>  
  10.     <property>  
  11.         <name>hadoop.tmp.dir</name>  
  12.         <value>file:/usr/hadoop/tmp</value>  
  13.         <description>Abase for other temporary   directories.</description>  
  14.     </property>  
  15. </configuration>  

7)配置文件:hdfs-site.xml

[html]
view plain
copy

print
?

  1. <configuration>  
  2.        <property>  
  3.                 <name>dfs.namenode.secondary.http-address</name>  
  4.                <value>master:9001</value>  
  5.        </property>  
  6.      <property>  
  7.              <name>dfs.namenode.name.dir</name>  
  8.              <value>file:/usr/hadoop/dfs/name</value>  
  9.        </property>  
  10.       <property>  
  11.               <name>dfs.datanode.data.dir</name>  
  12.               <value>file:/usr/hadoop/dfs/data</value>  
  13.        </property>  
  14.        <property>  
  15.                <name>dfs.replication</name>  
  16.                <value>2</value>  
  17.         </property>  
  18.         <property>  
  19.                  <name>dfs.webhdfs.enabled</name>  
  20.                   <value>true</value>  
  21.          </property>  
  22. </configuration>  

8)配置文件:mapred-site.xml

先创建然后编辑

 cp etc/hadoop/mapred-site.xml.template etc/hadoop/mapred-site.xml

gedit etc/hadoop/mapred-site.xml

[html]
view plain
copy

print
?

  1. <configuration>  
  2.           <property>                                                                    
  3.         <name>mapreduce.framework.name</name>  
  4.                 <value>yarn</value>  
  5.            </property>  
  6.           <property>  
  7.                   <name>mapreduce.jobhistory.address</name>  
  8.                   <value>master:10020</value>  
  9.           </property>  
  10.           <property>  
  11.                 <name>mapreduce.jobhistory.webapp.address</name>  
  12.                 <value>master:19888</value>  
  13.        </property>  
  14. </configuration>  

9)配置文件:yarn-site.xml

[html]
view plain
copy

print
?

  1. <configuration>  
  2.         <property>  
  3.                <name>yarn.nodemanager.aux-services</name>  
  4.                <value>mapreduce_shuffle</value>  
  5.         </property>  
  6.         <property>                                                                  
  7. <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>  
  8.                <value>org.apache.hadoop.mapred.ShuffleHandler</value>  
  9.         </property>  
  10.         <property>  
  11.                <name>yarn.resourcemanager.address</name>  
  12.                <value>master:8032</value>  
  13.        </property>  
  14.        <property>  
  15.                <name>yarn.resourcemanager.scheduler.address</name>  
  16.                <value>master:8030</value>  
  17.        </property>  
  18.        <property>  
  19.             <name>yarn.resourcemanager.resource-tracker.address</name>  
  20.              <value>master:8031</value>  
  21.       </property>  
  22.       <property>  
  23.               <name>yarn.resourcemanager.admin.address</name>  
  24.                <value>master:8033</value>  
  25.        </property>  
  26.        <property>  
  27.                <name>yarn.resourcemanager.webapp.address</name>  
  28.                <value>master:8088</value>  
  29.        </property>  
  30. </configuration>  

10)将hadoop传输到node1和node2 usr/hadoop目录,(如果传输时报错说 :权限拒绝,先把文件传送到非/usr目录下,然后在node上把这个文件再移动到/usr/hadoop

 scp -r /usr/hadoop hadoop@node1:/usr/hadoop
7、配置环境变量,并启动hadoop,检查是否安装成功
1)配置环境变量
#编辑/etc/profile
sudo gedit /etc/profile
#以上已经添加过java的环境变量,在后边添加就可以
  1. #hadoop  
  2. export HADOOP_HOME=/opt/Hadoop/hadoop-2.7.2  
  3. export PATH=$PATH:$HADOOP_HOME/sbin  
  4. export PATH=$PATH:$HADOOP_HOME/bin  

执行 

source /etc/profile

使文件生效。

2)启动hadoop,进入hadoop安装目录

bin/hdfs namenode -format
sbin/start-all.sh

3)启动后分别在master, node下输入jps查看进程

看到下面的结果,则表示成功。

Master:


node:


本文由【waitig】发表在等英博客
本文固定链接:Hadoop2.7.3完全分布式集群搭建和测试
欢迎关注本站官方公众号,每日都有干货分享!
等英博客官方公众号
点赞 (0)分享 (0)