1. 前言本文的目的是让一个从未接触Hadoop的人,在很短的时间内快速上手,掌握编译、安装和简单的使用。 2. Hadoop家族截止2009-8-19日,整个Hadoop家族由以下几个子项目组成:
3. 演练环境3.1. 操作系统SuSE10,Linux2.6.16,32位版本。 3.2. HadoopHive通过SVN直接从网上下载原代码,其它采用hadoop-0.20.0.tar.gz二进制安装包,所以只需要编译Hive。 另外,请注意不要下载2009-8-19号的Hive,2009-8-19提交的Hive版本在hadoop-0.20.0.tar.gz上编译通不过,原因是: Hive源代码根目录/ql/src/java/org/apache/hadoop/hive/ql/exec/FileSinkOperator.java文件中多了一行: import org.apache.hadoop.io.compress.LzoCodec; 而应当下载2009-8-4号和2009-8-19之间的版本,或2009-8-19之后的版本。 3.3. Hive在0.20.0版本的Hadoop二进制安装包中,并没有集成Hive,所以Hive需要自己编译,编译时需要使用到ant和ivy两个工具,而且依赖于Hadoop。 3.4. Java运行Hadoop和编译Hive,都需要使用到Java,所以需要第一个安装的是Java。 3.5. 机器演练时,在3台机器上搭建Hadoop集群,假设这3台机器如下表所示:
注意事项:机器名中不能包括下划线“_”,但可以包括横线。另可使用不带参数的hostname来查看机器名,修改机器名方法为:hostname 机器名,如:hostname Hadoop-A。另外,集群内所有的机器登录用户名和密码要保持相同。 3.6. 安装列表
注意事项:为求简单所有操作均以root用户完成,实际上可以使用非root用户,但环境变量就不能直接在/etc/profile文件中添加了。 4. 配置ssh2和修改/etc/hosts需要在所有机器上配置ssh2和修改/etc/hosts。 4.1. 配置ssh21) mkdir ~/.ssh2 # 如果~/.ssh2目录已经存在,则这一步可以跳过 2) cd ~/.ssh2 3) ssh-keygen2 -t rsa 4) echo "IdKey id_rsa_2048_a" > identification 5) echo "key id_rsa_2048_a.pub" > authorization 4.2. 修改/etc/hosts1) 在/etc/hosts文件中增加如下三行: 192.168.0.1 Hadoop-A 192.168.0.2 Hadoop-B 192.168.0.3 Hadoop-C 并根据上述关系,使用hostname命令修改三台机器的机器名。 5. 安装Java1) 从http://www./zh_CN/download/manual.jsp 下载jre,请注意是Java1.6版本,原因是Hadoop和Hive使用到了模板等特性 2) 下载“Linux (自解压文件)”这个版本的jre,如下图所示 3) 将下载的Java二进制安装包jre-6u15-linux-i586.bin上传到/usr/local目录 4) 为jre-6u15-linux-i586.bin文件增加可执行权限:chmod +x jre-6u15-linux-i586.bin 5) 运行jre-6u15-linux-i586.bin:./jre-6u15-linux-i586.bin 6) 用户协议接受,选择yes 7) 安装成功后,在/etc/profile增加如下一行: export PATH=/usr/local/jdk/bin:$PATH 6. 安装Hadoop1) 从http://hadoop./common/releases.html 下载Hadoop二进制安装包hadoop-0.20.0.tar.gz 2) 将hadoop-0.20.0.tar.gz上传到/usr/local目录 3) 在/usr/local目录,将hadoop-0.20.0.tar.gz解压 4) 为hadoop-0.20.0建一个软链接:ln -s hadoop-0.20.0 hadoop 5) 在/etc/profile文件中,增加如下两行: export HADOOP_HOME=/usr/local/hadoop export PATH=$HADOOP_HOME/bin:$PATH 完成以上步骤后,Hadoop就安装好了。 7. 配置HDFS7.1. 修改hadoop-env.sh所有机器做同样操作。 hadoop-env.sh位于/usr/local/hadoop/conf目录下,需要在这个文件中设置环境变量JAVA_HOME,增加如下一行即可: export JAVA_HOME=/usr/local/jre 7.2. 修改core-site.xml所有机器做同样操作。 在hadoop-0.20.0.tar.gz安装包中,conf目录下的core-site.xml默认是空的,但src/core目录下有一个缺省的配置文件core-default.xml,所以只需要将它复制到conf目录下,并重命名成core-site.xml即可,下述操作都是基于此操作的。 core-site.xml文件位于/usr/local/hadoop/conf目录下。 7.2.1. hadoop.tmp.dir设置临时文件目录参数hadoop.tmp.dir,默认情况下master会将元数据等存在这个目录下,而slave会将所有上传的文件放在这个目录下,在这里数据目录统一为/usr/local/hadoop/data: <property> <name>hadoop.tmp.dir</name> <value>/usr/local/hadoop/data</value> <description>A base for other temporary directories.</description> </property> 注意事项:由于上传到Hadoop的所有文件都会被存放在hadoop.tmp.dir所指定的目录,所以要确保这个目录是足够大的。 7.2.2. fs.default.namemaster用这个参数,提供基于http协议的状态上报界面,而slave通过这个地址连接master,设置如下: <property> <name>fs.default.name</name> <value>hdfs://Hadoop-A:54310</value> <description>The name of the default file system. A URI whose scheme and authority determine the FileSystem implementation. The uri's scheme determines the config property (fs.SCHEME.impl) naming the FileSystem implementation class. The uri's authority is used to determine the host, port, etc. for a filesystem.</description> </property> 备注:fs.default.name指定NameNode的IP地址和端口号,缺省值是file:///,,表示使用本地文件系统,,用于单机非分布式模式。 dfs.replication指定HDFS中每Block被复制的次数,起数据冗余备份的作用。在典型的生产系统中,这个数常常设置为3。 7.3. 修改masters这一步只需要在master节点上执行。 这个文件存储备master节点的IP或机器名,建议使用机器名,每行一个机器名。主master会将元数据等备份到备master节点,文件位于conf目录下。 这里,我们为masters文件增加如下一行即可: Hadoop-A 7.4. 修改slaves这一步也只需要在master节点上执行,以便master以ssh2方式去启动所有的slave节点。 这个文件存储slave节点的IP或机器名,建议使用机器名,每行一个机器名。这里我们增加如下两行: Hadoop-B Hadoop-C 7.5. 修改hdfs-site.xml所有机器做同样操作。 从src/hdfs目录下,将hdfs-default.xml复制到conf目录,并重命名成hdfs-site.xml,这里不需要修改此文件。 8. 配置MapReduce8.1. 修改mapred-default.xml所有机器做同样操作。 从src/mapred目录下,将mapred-default.xml复制到conf目录,并重命名成mapred-site.xml。 <property> <name>mapred.job.tracker</name> <value>Hadoop-A:54311</value> <description>The host and port that the MapReduce job tracker runs at. If "local", then jobs are run in-process as a single map and reduce task. </description> </property> 备注:mapred.job.tracker指定 JobTracker的IP地址和端口号。缺省值是local,,表示在本地同一Java进程内执行JobTracker和TaskTracker,,用于单机非分布式模式。 9. 安装Hivehadoop-0.20.0中并没有集成二进制的Hive,所以需要通过源代码编译一个,但是2009-8-19日提交的Hive并不能在hadoop-0.20.0上编译,而应当使用2009-8-4之后和2009-8-19之间的版本。 9.1. 安装ant1) 从http://ant./ 下载ant二进制安装包,选择1.7.1版本 2) 下载后,将包apache-ant-1.7.1-bin.zip上传到/usr/local目录 3) 进入/usr/local目录,将apache-ant-1.7.1-bin.zip解压:unzip apache-ant-1.7.1-bin.zip 4) 进入/usr/local目录,为ant建一个软连接:ln -s apache-ant-1.7.1 ant 5) 修改/etc/profile,增加如下行: export PATH=/usr/local/ant/bin:$PATH 至此,ant算是安装好了 。 9.2. 安装ivy1) 从http://www./dist/ant/ivy/ 下载ivy二进制安装包,选择2.1.0-rc2版本 2) 下载后,将包apache-ivy-2.1.0-rc2-bin.tar.gz上传到/usr/local目录 3) 进入/usr/local目录,将apache-ivy-2.1.0-rc2-bin.tar.gz解压:tar xzf apache-ivy-2.1.0-rc2-bin.tar.gz 4) 进入/usr/local目录,为ivy建一个软连接:ln -s apache-ivy-2.1.0-rc2 ivy 6) 修改/etc/profile,增加如下行: export IVY_HOME=/usr/local/ivy 至此,ivy算是安装好了。 9.3. 编译Hive在编译Hive之前,请确保HADOOP_HOME和IVY_HOME两个环境变量已经生效。 1) 使用svn从http://svn./repos/asf/hadoop/hive/trunk下载Hive源代码 2) 将下载来的Hive源代码打包,然后上传到Hadoop-A机器 3) 解压Hive源代码包 4) 修改shims/ivy.xml: 只保留0.20.0的配置,否则编译会出错
5) 运行ant开始编译: ant -Dtarget.dir=/usr/local/hadoop/hive -Dhadoop.version=0.20.0 package 这步完成之后,Hive会被安装到/usr/local/hadoop/hive目录下 6) 添加Hive环境变量,在/etc/profile文件中增加如下两行: export HIVE_HOME=/usr/local/hadoop/hive export PATH=$HIVE_HOME/bin:$PATH 10. 安装HBase1) 从http://svn./repos/asf/hadoop/hbase/trunk下载最新的HBase源代码 2) 将HBase源代码打包,并上传到Linux上 3) 解压HBase源代码包 4) 编译HBase: ant -Dtarget.dir=/usr/local/hadoop/hbase -Dhadoop.version=0.20.0 package 5) 编译成功之后,HBase可能并不象Hive一样自动安装到/usr/local/hadoop/hbase目录下,这个时候需要手工复制到HBase安装目录下:将build/hbase-0.21.0-dev整个目录复制到/usr/local/hadoop目录下,并将hbase-0.21.0-dev重命名成hbase即可 6) 进入/usr/local/hadoop/hbase/conf目录,将hbase-default.xml复制一份,并命名成hbase-site.xml 7) 修改hbase-site.xml: 设置hbase.rootdir的值为:hdfs://Hadoop-A:54310/hbase; 设置hbase.master(hbase.master可能为hbase.master.port)的值为:Hadoop-A:60000 8) 修改hbase-env.sh: 设置环境变量JAVA_HOME:export JAVA_HOME=/usr/local/jre 9) 在Master节点,还需要修改regionservers,在这个文件中列出所有的slave机器,一行一个机器名: Hadoop-B Hadoop-C 这一步不用在slave节点上操作。 10) 通过以上操作,HBase已经安装和配置好,然后应当打包,将它部署到集群的所有节点上 11. 体验11.1. 启动和停止11.1.1. hadoop在启动Hadoop集群之前,需要先格式化,在master节点上执行下面的命令即可: hadoop namenode -format 11.1.2. start-all.sh这个脚本用来启动Hadoop。 可以通过http://172.25.38.127:50070来查看HDFS的启动情况。
可以通过http://172.25.38.127:50030来查看MapReduce的启动情况。
11.1.3. stop-all.sh这个脚本用来停止Hadoop。 11.2. 体验HDFSHDFS的使用和普通的Linux命令差不多,只不过各类操作都必须作为hadoop命令的参数,如在hadoop上执行ls操作: hadoop fs -ls / 这条命令相当于Linux下的ls /。 11.3. 体验MapReduce体验MapReduce,可以使用Hadoop自带的WordCount,如: hadoop jar wordcount.jar /x/x /z 其中wordcount.jar是WordCount的可执行包,/x/x是源文件,是一段以逗号分隔的英文片断,而/z是结果存放的目录。 11.4. 体验HiveHive的使用非常简单,照着http://wiki./hadoop/Hive/GettingStarted上说的来操作就可以了。
12. FAQ12.1. 如何查看Hadoop进程如果安装了JDK,则在JDK的bin目录下有一个jps命令,可以用来查看java进程,如: # jps 27612 NameNode 17369 Jps 16206 HQuorumPeer 15423 HMaster 27761 SecondaryNameNode 27839 JobTracker 其中,第一列为进程号,第二列为进程名称。 12.2. ssh端口问题如果ssh不是使用默认端口,则需要修改hadoop-env.sh文件中的HADOOP_SSH_OPTS环境变量,假设ssh端口号为8000,则可以简单设置为:export HADOOP_SSH_OPTS="-p 8000" 如果安装了HBase,还应当修改hbase-env.sh文件中的HBASE_SSH_OPTS。 12.3. 首次ssh登录问题首次通过ssh登录另一台机器时,可能会遇到一个yes确认过程,因此在启动之前,应当先手工或使用其它脚本ssh成功登录一次,否则容易遇到如下错误: r# ./start-hbase.sh DOSS38-127-sles10: Host key not found from database. DOSS38-127-sles10: Key fingerprint: DOSS38-127-sles10: xuror-ledab-buhim-zohok-tanop-cyrig-tysac-gyhyp-refan-semim-pyxex DOSS38-127-sles10: You can get a public key's fingerprint by running DOSS38-127-sles10: % ssh-keygen -F publickey.pub DOSS38-127-sles10: on the keyfile. DOSS38-127-sles10: warning: tcgetattr failed in ssh_rl_set_tty_modes_for_fd: fd 1: Invalid argument |
|