原创：2014年06月07日 13:44:01 来源：http://www./hadoop/hadoop-hadoop/2429.html 标签：ambari / hadoop /hortonworks /yum /本地源
|
生产中的hadoop集群机器都很多，而且基本都不允许连接公网，为方便快速部署，非常有必要建立一个本地Repository，下面详细介绍建立过程。
主要资源：
- CentOS 6.5 x86_64 镜像
- Ambari-1.5.1
- HDP-2.1
- HDP-UTILS-1.1.0.17
一、安装基本软件并配置：
yum install yum-utils createrepo yum-plugin-priorities
yum install httpd
编辑/etc/yum/pluginconf.d/priorities.conf，修改为如下：
[main]
enabled=1
gpgcheck=0
如果安装了PackageKit，还需修改/etc/yum/pluginconf.d/refresh-packagekit.conf为如下：
enabled=0
设置httpd：
chkconfig httpd on
service httpd start
二、下载主要资源并配置：
资源下载主要有两种方式：
2.1 直接下载（推荐）：
采用P2P下载工具（如迅雷等）下载上述主要资源的完整包，再上传到本地源服务器进行部署的方式是最快的，因为迅雷等下载工具下载上述资源要比直接同步快很多。各资源主要路径如下：
CenOS最新镜像下载点：
http://isoredirect./centos/6/isos/x86_64/
下载后挂载，并拷贝所有内容到/var/www/html/centos65
mount -o loop /tmp/CentOS-6.5-x86_64-bin-DVD1.iso /media
cp -r /media /var/www/html/centos65
umount /media
下载拷贝HDP-2.1和HDP-UTILS-1.1.0.17并解压到/var/www/html/hdp
http://public-repo-1./HDP/centos6/2.x/GA/2.1-latest/HDP-2.1-latest-centos6-rpm.tar.gz
http://public-repo-1./HDP-UTILS-1.1.0.17/repos/centos6/HDP-UTILS-1.1.0.17-centos6.tar.gz
tar xf HDP-2.1-latest-centos6-rpm.tar.gz –C /var/www/html/hdp
tar xf HDP-UTILS-1.1.0.17-centos6.tar.gz –C /var/www/html/hdp
拷贝Ambari-1.5.1并解压到/var/www/ambari
http://public-repo-1./ambari/centos6/ambari-1.5.1-centos6.tar.gz
tar xf ambari-1.5.1-centos6.tar.gz –C /var/www/html/ambari
完成后结构如下：
[root@yum html]# tree -L 2
.
├── ambari
│ └── centos6
├── centos65
│ ├── CentOS_BuildTag
│ ├── EFI
│ ├── EULA
│ ├── GPL
│ ├── images
│ ├── isolinux
│ ├── Packages
│ ├── RELEASE-NOTES-en-US.html
│ ├── repodata
│ ├── RPM-GPG-KEY-CentOS-6
│ ├── RPM-GPG-KEY-CentOS-Debug-6
│ ├── RPM-GPG-KEY-CentOS-Security-6
│ ├── RPM-GPG-KEY-CentOS-Testing-6
│ └── TRANS.TBL
└── hdp
├── HDP
└── HDP-UTILS-1.1.0.17
[root@yum html]# tree ambari hdp -L 4
ambari
└── centos6
└── 1.x
└── updates
└── 1.5.1
hdp
├── HDP
│ └── centos6
│ └── 2.x
│ └── updates
└── HDP-UTILS-1.1.0.17
└── repos
└── centos6
├── epel-release-6-8.noarch.rpm
├── extjs
├── fping
├── ganglia
├── hadoop-lzo
├── hdp-util.repo
├── libconfuse
├── lzo
├── mysql-connector-java
├── nagios
├── nagios-plugins
├── pdsh
├── perl
├── puppet
├── repodata
├── RPM-GPG-KEY
├── rrdtool
└── snappy
27 directories, 2 files
[root@yum html]# tree ambari hdp -L 5
ambari
└── centos6
└── 1.x
└── updates
└── 1.5.1
hdp
├── HDP
│ └── centos6
│ └── 2.x
│ └── updates
│ └── 2.1.2.0
└── HDP-UTILS-1.1.0.17
└── repos
└── centos6
2.2 采用reposync直接同步公共源（不推荐，如果用了2.1的方法，就不需要这一步）：
对于CentOS的Repo源，建议采用国内的搜狐或163等，速度最快，如下：
wget http://mirrors.163.com/.help/CentOS-Base-163.repo -O /etc/yum.repos.d/CentOS-Base-163.repo
wget http://public-repo-1./ambari/centos6/1.x/updates/1.5.1/ambari.repo -O /etc/yum.repos.d/ambari.repo
wget http://public-repo-1./HDP/centos6/2.x/GA/2.1-latest/hdp.repo -O /etc/yum.repos.d/hdp.repo
查看当前源中有的repo列表：
yum repolist
同步Ambari：
cd /var/www/html
mkdir -p ambari/centos6
cd ambari/centos6
reposync -r Updates-ambari-1.5.1
同步HDP：
mkdir -p hdp/centos6
cd hdp/centos6
reposync -r HDP-2.1.2.0
reposync -r HDP-UTILS-1.1.0.17
注意：HDP有2.1GB大，下载非常慢，需要长时间等待。
创建repo(根据实际路径配置，有可能不一样)：
createrepo /var/www/html/ambari/centos6/Updates-ambari-1.5.1
createrepo /var/www/html/hdp/centos6/HDP-2.1.2.0
createrepo /var/www/html/hdp/centos6/HDP-UTILS-1.1.0.17
创建完成后，就可以通过web路径访问测试了（路径可能不同）：
三、配置本地repo文件：
我的本地repo配置文件如下：
[CentOS6-Media]
name=CentOS6-Media
baseurl=http://172.18.8.200/centos65
gpgcheck=1
enabled=1
gpgkey=file:///etc/pki/rpm-gpg/RPM-GPG-KEY-CentOS-6
[Ambari-1.5.1]
name=Ambari-1.5.1
baseurl=http://172.18.8.200/ambari/centos6/1.x/updates/1.5.1
gpgcheck=0
enabled=1
[HDP-2.1.2.0]
name=HDP-2.1.2.0
baseurl=http://172.18.8.200/hdp/HDP/centos6/2.x/updates/2.1.2.0
gpgcheck=0
enabled=1
[HDP-UTILS-1.1.0.17]
name=HDP-UTILS-1.1.0.17
baseurl=http://172.18.8.200/hdp/HDP-UTILS-1.1.0.17/repos/centos6
gpgcheck=0
enabled=1
配置好后，即可移除所有节点的本地原来的repo文件，使用本地repo源进行安装centos自带软件、ambari、hdp（包含所有hadoop软件）了。
|
