818不败家

“明天就是818，各大电商又要开始引诱我们买买买了。话说如今电商也和各大线下超市一样：三天一小庆，五天一大庆，各种活动不断。但身为IT人，怎能光花钱败家，快来补充知识，让我们用大数据玩转电商平台！”

不知大家可还记得618那天，小浪教给大家一招快速搭建电商平台的绝技吗？有没有同学一试？→→【618脑洞大开】如何用10分钟搭建一个电商平台？

这不，在看到小浪的微信后，好友阿服赶紧在自己的笔记本上搭了一个网站，主营各种浪潮服务器，顺便也卖卖自己的闲置。随着生意越来越红火，阿服也在网站上加入了很多新的功能，比如橱窗广告啦、新的支付方式啦等等。但是，阿服发现浏览量不断提升，转化率却一直低迷，另外，由于流量提升，服务器出现宕机的次数也越来越多。这可怎么办？

在一顿路边小烧烤后，小浪给阿服出了个主意：第一，分析下用户的浏览习惯，然后进行精准的橱窗广告推送，以提升转化率；第二，分析下网站的运行日志，看看宕机问题到底出在哪里，提升电商平台的抗压能力。思路是对，但是靠人力来分析也太耗时，怎么办？使用大数据分析系统，用机器替代人力来实现分类、检索等功能，岂不快哉？

目前Hadoop是主流的分布式系统基础架构之一，用户可以在不了解分布式底层细节的情况下，开发分布式程序，充分利用集群的威力进行高速运算和存储。当然在利用更高级的脚本进行数据分析之前你首先需要有配置好Hadoop框架。

Hadoop是目前主流的分布式系统基础架构之一

下面，小浪先来讲讲如何在十分钟内搭建一套简单的Hadoop平台~

1搭建环境要求

在正式搭建Hadoop平台之前，首先要准备一些工具。一台电脑或者服务器，安装Linux（本文以Ubuntu16.04虚拟机为环境），Java（最新版为8）和Hadoop（最新版为2.6.4）。准备好之后就可以开始十分钟大数据平台搭建之旅了~

2创建Hadoop用户（耗时≈1min）

如果你安装 Ubuntu 的时候不是用的 “hadoop” 用户，那么需要增加一个名为 hadoop 的用户。

首先按 ctrl+alt+t 打开终端窗口，输入如下命令创建新用户：

sudo useradd -m hadoop -s /bin/bash

这条命令创建了可以登陆的 hadoop 用户，并使用 /bin/bash 作为 shell。

接着使用如下命令设置密码，可简单设置为 hadoop，按提示输入两次密码：

sudo passwd hadoop

可为 hadoop 用户增加管理员权限，方便部署，避免一些对新手来说比较棘手的权限问题：

sudo adduser hadoop sudo

最后注销当前用户（点击屏幕右上角的齿轮，选择注销），在登陆界面使用刚创建的 hadoop 用户进行登陆。

3安装SSH、配置SSH无密码登陆（耗时＜1min）

集群、单节点模式都需要用到 SSH 登陆（类似于远程登陆，你可以登录某台 Linux 主机，并且在上面运行命令），Ubuntu 默认已安装了 SSH client，此外还需要安装 SSH server：

sudo apt-get install openssh-server

安装后，可以使用如下命令登陆本机：

ssh localhost

此时会有如下提示(SSH首次登陆提示)，输入 yes 。然后按提示输入密码 hadoop，这样就登陆到本机了。

4安装Java环境（耗时≈2min）

Java环境可选择 Oracle 的 JDK，或是 OpenJDK，为图方便，我们直接通过命令安装 OpenJDK 8

sudo apt-get install openjdk-8-jre openjdk-8-jdk

安装好 OpenJDK 后，需要找到相应的安装路径，这个路径是用于配置 JAVA_HOME 环境变量的。执行如下命令：

update-alternatives --config java

该命令会输出一个路径，除去路径末尾的 “/bin/javac”，剩下的就是正确的路径了。如输出路径为 /usr/lib/jvm/java-8-openjdk-amd64/bin/javac，则我们需要的路径为 /usr/lib/jvm/java-8-openjdk-amd64。

接着配置 JAVA_HOME 环境变量，为方便，我们在 ~/.bashrc 中进行设置：

gedit ~/.bashrc

在文件最前面添加如下单独一行（注意 = 号前后不能有空格），将“JDK安装路径”改为上述命令得到的路径，并保存：

export JAVA_HOME=JDK安装路径

如下图所示：

接着还需要让该环境变量生效，执行如下代码：

source ~/.bashrc

设置好后我们来检验一下是否设置正确：

1.echo $JAVA_HOME

2.java -version

3.$JAVA_HOME/bin/java –version

如果设置正确的话，$JAVA_HOME/bin/java -version 会输出 java 的版本信息，且和 java -version 的输出结果一样，如下图所示：

这样，Hadoop 所需的 Java 运行环境就安装好了。

5安装Hadoop（耗时≈2min）

在官网下载Hadoop，一般选择下载最新的稳定版本，即下载 “stable” 下的 hadoop-2.x.y.tar.gz 这个格式的文件，这是编译好的，另一个包含 src 的则是 Hadoop 源代码，需要进行编译才可使用。

本文涉及的文件均保存在 “桌面” 目录中（若不是请自行更改 tar 命令的相应目录）。

我们选择将 Hadoop 安装至 /usr/local/ 中：

sudo tar -zxf ~/桌面/hadoop-2.6.0.tar.gz -C /usr/local #解压

cd /usr/local/

sudo mv ./hadoop-2.6.0/ ./hadoop # 将文件夹名改为hadoop

sudo chown -R hadoop ./hadoop # 修改文件权限

Hadoop 解压后即可使用。输入如下命令来检查 Hadoop 是否可用，成功则会显示 Hadoop 版本信息：

cd /usr/local/hadoop

./bin/hadoop version

6Hadoop伪分布式配置（耗时≈3min）

Hadoop 可以在单节点上以伪分布式的方式运行，Hadoop 进程以分离的 Java 进程来运行，节点既作为 NameNode 也作为 DataNode，同时，读取的是 HDFS 中的文件。

Hadoop 的配置文件位于 /usr/local/hadoop/etc/hadoop/ 中，伪分布式需要修改2个配置文件 core-site.xml 和 hdfs-site.xml 。Hadoop的配置文件是 xml 格式，每个配置以声明 property 的 name 和 value 的方式来实现。

修改配置文件 core-site.xml (通过 gedit 编辑会比较方便: gedit ./etc/hadoop/core-site.xml)，将当中的

XML

修改为下面配置：

hadoop.tmp.dir

file:/usr/local/hadoop/tmp

Abase for other temporary directories.

fs.defaultFS

hdfs://localhost:9000

XML

同样的，修改配置文件 hdfs-site.xml：

dfs.replication

1

dfs.namenode.name.dir

file:/usr/local/hadoop/tmp/dfs/name

dfs.datanode.data.dir

file:/usr/local/hadoop/tmp/dfs/data

XML

配置完成后，执行 NameNode 的格式化:

./bin/hdfs namenode -format

成功的话，会看到 “successfully formatted” 和 “Exitting with status 0” 的提示，若为 “Exitting with status 1” 则是出错。

接着开启 NameNode 和 DataNode 守护进程。

./sbin/start-dfs.sh

若出现如下SSH提示，输入yes即可。

启动完成后，可以通过命令 jps 来判断是否成功启动，若成功启动则会列出如下进程：

“NameNode”、”DataNode” 和 “SecondaryNameNode”（如果 SecondaryNameNode 没有启动，请运行 sbin/stop-dfs.sh 关闭进程，然后再次尝试启动尝试）。如果没有 NameNode 或 DataNode ，那就是配置不成功，请仔细检查之前步骤，或通过查看启动日志排查原因。

成功启动后，可以访问 Web 界面 http://localhost:50070 查看 NameNode 和 Datanode 信息，还可以在线查看 HDFS 中的文件。

7运行Hadoop伪分布式实例（耗时≈1min）

伪分布式读取的是 HDFS 上的数据。要使用 HDFS，首先需要在 HDFS 中创建用户目录：

./bin/hdfs dfs -mkdir -p /user/hadoop

接着在桌面上建立一个txt文档，其中写入4个“inspur”，然后将其复制到分布式文件系统中的 /user/hadoop/input 中。我们使用的是 hadoop 用户，并且已创建相应的用户目录 /user/hadoop ，因此在命令中就可以使用相对路径如 input，其对应的绝对路径就是 /user/hadoop/input:

./bin/hdfs dfs -mkdir input

./bin/hdfs dfs -put /home/hadoop/桌面/*.txt input

复制完成后，可以通过如下命令查看文件列表：

./bin/hdfs dfs -ls input

现在我们可以执行例子来感受下 Hadoop 的运行。Hadoop 附带了丰富的例子（运行 ./bin/hadoop jar ./share/hadoop/mapreduce/hadoop-mapreduce-examples-2.6.0.jar 可以看到所有例子），包括 wordcount、terasort、join、grep 等。

在此我们选择运行 grep 例子，我们将筛选出带有“inspur”的单词，并统计出现的次数，最后输出结果到 output 文件夹中。

./bin/hadoop jar ./share/hadoop/mapreduce/hadoop-mapreduce-examples-*.jar grep input output 'inspur'

查看运行结果的命令（查看的是位于 HDFS 中的输出结果）：

./bin/hdfs dfs -cat output/*

结果显示，有4个inspur字符，符合刚才我们键入的数量。至此，一个单机运行的伪分布式Hadoop平台搭建完成~但是，怎么进行精准的广告推荐？怎么进行网络日志的分析？标准的Hadoop中，只是集成了一些简单的实例，比如用Wordcount进行单词计数、用grep对指定文档中指定单词的词频进行计算等，但是如果需要更高级的应用，比如广告推荐，那么还需要更多的代码、更多的测试和实践来支撑。后续，阿网也会持续更新更多的应用实例，敬请期待。

而在商用市场，通过数据的收集、存储、分析和辅助决策，一系列的流程将为企业管理者提供可视化的科学依据，但大数据分析是个系统工程，面临诸多挑战：一、技术组件选择难，大数据技术组建多、组合方式多，难以选择；二、软硬件集成难，由于IT服务器分层化，多家厂商的服务接口多；三、交付周期长，交付过程中会遇到各类硬件和继承问题，造成很多不可控因素；四、系统优化难，随着企业数据量的不断增长，如果优化不足极易造成数据存储下、算不出、扩不动。

浪潮云海大数据一体机SDA70000

为简化大数据系统部署，浪潮推出云海大数据一体机SDA70000/SDA70000HD，提供从GB到PB级数据在高并发访问、数据查询和分析处理等不同应用场景大数据处理的能力，帮助客户轻松构建数据采集、数据存储、数据处理、数据应用开发的整个大数据生命周期管理体系。基于浪潮卓越稳定的硬件平台、企业级大数据软件系统，配合丰富的大数据最佳实践经验，打造开箱即用的融合基础设施，实现50%以上的运维工作减少、30%以上的建设成本降低、40%以上的运算速度提升、50%以上的网络健壮性成长。

来源：浪潮服务器官方微信（公众号：浪潮服务器）更多精彩，敬请关注！