最近一直在自学Hadoop,今天花点时间搭建一个开发环境,并整理成文。
首先要了解一下Hadoop的运行模式:
单机模式(standalone)
单机模式是Hadoop的默认模式。当首次解压Hadoop的源码包时,Hadoop无法了解硬件安装环境,便保守地选择了最小配置。在这种默认模式下
所有3个XML文件均为空。当配置文件为空时,Hadoop会完全运行在本地。因为不需要与其他节点交互,单机模式就不使用HDFS,也不加载任何
Hadoop的守护进程。该模式主要用于开发调试MapReduce程序的应用逻辑。
伪分布模式(Pseudo-Distributed Mode)
伪分布模式在“单节点集群”上运行Hadoop,其中所有的守护进程都运行在同一台机器上。该模式在单机模式之上增加了代码调试功能,允许你检查内存使用情况,HDFS输入输出,以及其他的守护进程交互。
全分布模式(Fully Distributed Mode)
Hadoop守护进程运行在一个集群上。
版本:ubuntu 10.04.4,hadoop 1.0.2
1.添加hadoop用户到系统用户
安装前要做一件事——添加一个名为hadoop到系统用户,专门用来做Hadoop测试。
-
~$ sudo addgroup hadoop
-
~$ sudo adduser --ingroup hadoop hadoop
现在只是添加了一个用户hadoop,它并不具备管理员权限,因此我们需要将用户hadoop添加到管理员组:
-
~$ sudo usermod -aG admin hadoop
2.安装ssh
由于Hadoop用ssh通信,先安装ssh
-
~$ sudo apt-get install openssh-server
ssh安装完成以后,先启动服务:
-
~$ sudo /etc/init.d/ssh start
启动后,可以通过如下命令查看服务是否正确启动:
作为一个安全通信协议,使用时需要密码,因此我们要设置成免密码登录,生成私钥和公钥:
-
hadoop@scgm-ProBook:~$ ssh-keygen -t rsa -P ""
因为我已有私钥,所以会提示是否覆盖当前私钥。第一次操作时会提示输入密码,按Enter直接过,这时会在~/home/{username}
/.ssh下生成两个文件:id_rsa和id_rsa.pub,前者为私钥,后者为公钥,现在我们将公钥追加到authorized_keys中
(authorized_keys用于保存所有允许以当前用户身份登录到ssh客户端用户的公钥内容):
-
~$ cat ~/.ssh/id_rsa.pub
>
>
~/.ssh/authorized_keys
现在可以登入ssh确认以后登录时不用输入密码:
登出:
第二次登录:
登出:
这样以后登录就不用输入密码了。
3.安装Java
-
~$ sudo apt-get install openjdk-6-jdk
-
~$ java -version
4.安装hadoop 1.0.2
到官网下载
hadoop源文件,这里选择hadoop 1.0.2
解压并放到你希望的目录中。我是放到/usr/local/hadoop
-
~$ sudo tar xzf hadoop-1.0.2.tar.gz
-
~$ sudo mv hadoop-1.0.2 /usr/local/hadoop
要确保所有的操作都是在用户hadoop下完成的:
-
~$ sudo chown -R hadoop:hadoop /usr/local/hadoop
5.设定hadoop-env.sh(Java 安装路径)
进入hadoop目录,打开conf目录下到hadoop-env.sh,添加以下信息:
export JAVA_HOME=/usr/lib/jvm/java-6-openjdk (视你机器的java安装路径而定)
export HADOOP_HOME=/usr/local/hadoop
export PATH=$PATH:/usr/local/hadoop/bin
并且,让环境变量配置生效source
-
~$ source /usr/local/hadoop/conf/hadoop-env.sh
至此,hadoop的单机模式已经安装成功。
于是,运行一下hadoop自带的例子WordCount来感受以下MapReduce过程:
在hadoop目录下新建input文件夹
将conf中的所有文件拷贝到input文件夹中
-
~$ cp conf/* input
<
span
style
=
"font-family: Arial, Helvetica, sans-serif; white-space: normal; background-color: rgb(255, 255, 255); "
>
</
span
>
运行WordCount程序,并将结果保存到output中
-
~$ bin/hadoop jar hadoop-0.20.2-examples.jar wordcount input output
运行
你会看到conf所有文件的单词和频数都被统计出来。
下面是伪分布模式需要的一些配置,继续。
6.设定*-site.xml
这里需要设定3个文件:core-site.xml,hdfs-site.xml,mapred-site.xml,都在/usr/local/hadoop/conf目录下
core-site.xml: Hadoop Core的配置项,例如HDFS和MapReduce常用的I/O设置等。
hdfs-site.xml: Hadoop 守护进程的配置项,包括namenode,辅助namenode和datanode等。
mapred-site.xml: MapReduce 守护进程的配置项,包括jobtracker和tasktracker。
首先在hadoop目录下新建几个文件夹
-
~/hadoop$ mkdir tmp
-
~/hadoop$ mkdir hdfs
-
~/hadoop$ mkdir hdfs/name
-
~/hadoop$ mkdir hdfs/data
-
chmod -R 755 hdfs/data
接下来编辑那三个文件:
core-site.xml:
-
<
configuration
>
-
<
property
>
-
<
name
>
fs.default.name
</
name
>
-
<
value
>
hdfs://localhost:9000
</
value
>
-
</
property
>
-
<
property
>
-
<
name
>
hadoop.tmp.dir
</
name
>
-
<
value
>
/usr/local/hadoop/tmp
</
value
>
-
</
property
>
-
</
configuration
>
hdfs-site.xml:
-
<
configuration
>
-
<
property
>
-
<
name
>
dfs.replication
</
name
>
-
<
value
>
1
</
value
>
-
</
property
>
-
<
property
>
-
<
name
>
dfs.name.dir
</
name
>
-
<
value
>
/usr/local/hadoop/hdfs/name
</
value
>
-
</
property
>
-
<
property
>
-
<
name
>
dfs.data.dir
</
name
>
-
<
value
>
/usr/local/hadoop/hdfs/data
</
value
>
-
</
property
>
-
</
configuration
>
mapred-site.xml:
-
<
configuration
>
-
<
property
>
-
<
name
>
mapred.job.tracker
</
name
>
-
<
value
>
localhost:9001
</
value
>
-
</
property
>
-
</
configuration
>
7.格式化HDFS
通过以上步骤,我们已经设定好Hadoop单机测试到环境,接着就是启动Hadoop到相关服务,格式化namenode,secondarynamenode,tasktracker:
-
~$ source /usr/local/hadoop/conf/hadoop-env.sh
-
~$ hadoop namenode -format
8.启动Hadoop
接着执行start-all.sh来启动所有服务,包括namenode,datanode,start-all.sh脚本用来装载守护进程。
-
hadoop@ubuntu:/usr/local/hadoop$ cd bin
-
hadoop@ubuntu:/usr/local/hadoop/bin$ start-all.sh
用Java的jps命令列出所有守护进程来验证安装成功
-
hadoop@ubuntu:/usr/local/hadoop$ jps
出现如下列表,表明成功
9.检查运行状态
所有的设置已完成,Hadoop也启动了,现在可以通过下面的操作来查看服务是否正常,在Hadoop中用于监控集群健康状态的Web界面:
http://localhost:50030/ - Hadoop 管理介面
http://localhost:50060/ - Hadoop Task Tracker 状态
http://localhost:50070/ - Hadoop DFS 状态
Hadoop 管理介面:
Hadoop Task Tracker 状态:
Hadoop DFS 状态:
至此,hadoop的伪分布模式已经安装成功,于是,再次在伪分布模式下运行一下hadoop自带的例子WordCount来感受以下MapReduce过程:
这时注意程序是在文件系统dfs运行的,创建的文件也都基于文件系统:
首先在dfs中创建input目录
-
hadoop@ubuntu:/usr/local/hadoop$ bin/hadoop dfs -mkdir input
将conf中的文件拷贝到dfs中的input
-
hadoop@ubuntu:/usr/local/hadoop$ hadoop dfs -copyFromLocal conf/* input
在伪分布式模式下运行WordCount
-
hadoop@ubuntu:/usr/local/hadoop$ hadoop jar hadoop-examples-1.0.2.jar wordcount input output
可看到以下过程
显示输出结果
-
hadoop@ubuntu:/usr/local/hadoop$ hadoop dfs -cat output/*
当Hadoop结束时,可以通过stop-all.sh脚本来关闭Hadoop的守护进程
-
hadoop@ubuntu:/usr/local/hadoop$ bin/stop-all.sh
10.结语
在ubuntu上搭建hadoop成功!有点小兴奋,已经迫不及待的想开始做一些相关的开发及深入理解hadoop内核实现,继续加油咯!
PS:单机模式和伪分布模式均用于开发和调试的目的。真实Hadoop集群的运行采用的是第三种模式,即全分布模式。待续。
本文参考了这两位同学的文章,感谢分享阿!
http://blog.sina.com.cn/s/blog_61ef49250100uvab.html
http://www.cnblogs.com/welbeckxu/category/346329.html
分享到:
相关推荐
hadoop1.x环境搭建及其入门,如需获取更多hadoop资源
Hadoop2.x HA环境搭建Hadoop2.x HA环境搭建Hadoop2.x HA环境搭建
基础的hadoop集群环境搭建步骤,包含SSH免密登录,DNS服务器配置等基础环境搭建流程
关于hadoop2.x的安装,其中包括了一个完整的集群以及各种hadoop组件的安装和部署,解压包中包括了四篇的安装教程,超级完整。
Hadoop3.1.X的windows环境搭建依赖的文件,里边包含了windows环境所依赖的所有文件
通过VMWare虚拟机安装CentOS7,在CentOS7操作系统下搭建hadoop2.x的编译环境,通过eclipse完成对hadoop2.x的编译。部署新编译的hadoop单机伪分布运行环境,通过相应的管理IP可查看集群运行状态
五台虚拟机搭建Hadoop3.3.1高可用完全分布式环境
主要为大家详细介绍了Hadoop 2.x伪分布式环境搭建详细步骤,感兴趣的朋友可以参考一下
windows 64位下hadoop2.7.3搭建环境所需的hadoop.dll及winutil.exe等
Hadoop原本来自于谷歌一款名为MapReduce的编程模型包。谷歌的MapReduce框架可以把一个应用程序分解为许多并行计算指令,跨大量的计算节点运行非常巨大的数据集。使用该框架的一个典型例子就是在网络数据上运行的搜索...
Hadoop2.4.0测试环境搭建 http://docs.hortonworks.com/HDPDocuments/HDP2/HDP-2.1-latest/bk_installing_manually_boo k/content/rpm-chap1-11.html [bigdata@namenode1 scripts]$ pwd /home/bigdata/software/...
Hadoop原理及部署,非常全面的讲解 ...Hadoop是目前市场接受程度最高的大数据技术平台之一,在大量有代表性的Hadoop 1.x用户使用体验和反馈的基础上,广受关注的Hadoop 2.x版本在平台设计层面做出了重大改进
hadoop集群搭建高可用文档在Hadoop2.x之后的版本,提出了解决单点问题的方案--HA(High Available 高可用)。这篇博客阐述如何搭建高可用的HDFS和YARN,执行步骤如下: 创建hadoop用户 安装JDK 配置hosts 安装SSH ...
该资源为Hadoop2.x环境搭建的操作流程以及一些相关的简单操作,适合初学者,该资源为博主原创,如有错误,欢迎大家批评指正。
本教程使用 Ubuntu 14.04 64位 作为系统环境(Ubuntu 12.04,Ubuntu16.04 也...本教程基于原生 Hadoop 2,在 Hadoop 2.6.0 (stable) 版本下验证通过,可适合任何 Hadoop 2.x.y 版本,如 Hadoop 2.7.1、2.6.3、2.4.1等。
hadoop环境搭建,linux下,直接拖入X-shell即可
hadoop1.x、2.x,hadoop学习个人笔记,hadoop环境搭建,java开发实例等
在Centos中,进行配置jdk的环境,这个还是折腾了我听挺久的。特别是在一次配置中,导致后来我的root用户无法登录,并且用其他普通用户登录,使用su - root切换到root用户,都无法使用ls这一些普通的命令。由于没有...
一、环境准备 CentOS Linux release 7.5.1804 (Core) 系统下 安装 创建文件夹 $ cd /home/centos $ mkdir software $ mkdir module 将安装包导入software文件夹 $ cd software # 然后把文件拖进去即可 这里使用的...
Ubuntu 16.10 x64 Docker 本身就是基于 Linux 的,所以首先以我的一台服务器做实验。虽然最后跑 wordcount 已经由于内存不足而崩掉,但是之前的过程还是可以参考的。 连接服务器 使用 ssh 命令连接远程服务器。 ...