可以带着下面问题来阅读本文章: 1.一个好的项目架构应该具备什么特点? 2.本项目架构是如何保证数据准确性的? 3.什么是Kafka? 4.flume+kafka如何整合? 5.使用什么脚本可以查看flume有没有往Kafka传输数据 做软件开发的都知道模块化思想,这样设计的原因有两方面: 一方面是可以模块化,功能划分更加清晰,从“数据采集--数据接入--流失计算--数据输出/存储” 1).数据采集 负责从各节点上实时采集数据,选用cloudera的flume来实现 2).数据接入 由于采集数据的速度和数据处理的速度不一定同步,因此添加一个消息中间件来作为缓冲,选用apache的kafka 3).流式计算 对采集到的数据进行实时分析,选用apache的storm 4).数据输出 对分析后的结果持久化,暂定用mysql 另一方面是模块化之后,假如当Storm挂掉了之后,数据采集和数据接入还是继续在跑着,数据不会丢失,storm起来之后可以继续进行流式计算; 那么接下来我们来看下整体的架构图 详细介绍各个组件及安装配置: 操作系统:ubuntu Flume Flume是Cloudera提供的一个分布式、可靠、和高可用的海量日志采集、聚合和传输的日志收集系统,支持在日志系统中定制各类数据发送方,用于收集数据;同时,Flume提供对数据进行简单处理,并写到各种数据接受方(可定制)的能力。 下图为flume典型的体系结构: Flume数据源以及输出方式: Flume提供了从console(控制台)、RPC(Thrift-RPC)、text(文件)、tail(UNIX tail)、syslog(syslog日志系统,支持TCP和UDP等2种模式),exec(命令执行)等数据源上收集数据的能力,在我们的系统中目前使用exec方式进行日志采集。 Flume的数据接受方,可以是console(控制台)、text(文件)、dfs(HDFS文件)、RPC(Thrift-RPC)和syslogTCP(TCP syslog日志系统)等。在我们系统中由kafka来接收。Flume下载及文档: http://flume./ Flume安装:
kafka是一种高吞吐量的分布式发布订阅消息系统,她有如下特性:
kafka的目的是提供一个发布订阅解决方案,它可以处理消费者规模的网站中的所有动作流数据。 这种动作(网页浏览,搜索和其他用户的行动)是在现代网络上的许多社会功能的一个关键因素。 这些数据通常是由于吞吐量的要求而通过处理日志和日志聚合来解决。 对于像Hadoop的一样的日志数据和离线分析系统,但又要求实时处理的限制,这是一个可行的解决方案。kafka的目的是通过Hadoop的并行加载机制来统一线上和离线的消息处理,也是为了通过集群机来提供实时的消费。 kafka分布式订阅架构如下图:--取自Kafka官网 罗宝兄弟文章上的架构图是这样的 其实两者没有太大区别,官网的架构图只是把Kafka简洁的表示成一个Kafka Cluster,而上面架构图就相对详细一些; Kafka版本:0.8.0 Kafka下载及文档:http://kafka./ Kafka安装:
启动及测试命令: (1) start server
配置独立的zookeeper集群需要配置server.properties文件,讲zookeeper.connect修改为独立集群的IP和端口
kafka-console-producer.sh和kafka-console-cousumer.sh只是系统提供的命令行工具。这里启动是为了测试是否能正常生产消费;验证流程正确性 在实际开发中还是要自行开发自己的生产者与消费者; kafka的安装也可以参考我之前写的文章:http://blog.csdn.net/weijonathan/article/details/18075967 Storm Twitter将Storm正式开源了,这是一个分布式的、容错的实时计算系统,它被托管在GitHub上,遵循 Eclipse Public License 1.0。Storm是由BackType开发的实时处理系统,BackType现在已在Twitter麾下。GitHub上的最新版本是Storm 0.5.2,基本是用Clojure写的。 Storm的主要特点如下:
由于篇幅问题,具体的安装步骤可以参考:Storm-0.9.0.1安装部署 指导 接下来重头戏开始拉!那就是框架之间的整合啦 flume和kafka整合 1.下载flume-kafka-plus:https://github.com/beyondj2ee/flumeng-kafka-plugin 2.提取插件中的flume-conf.properties文件 修改该文件:#source section producer.sources.s.type = exec producer.sources.s.command = tail -f -n+1 /mnt/hgfs/vmshare/test.log producer.sources.s.channels = c 修改所有topic的值改为test 将改后的配置文件放进flume/conf目录下 在该项目中提取以下jar包放入环境中flume的lib下: 注:这里的flumeng-kafka-plugin.jar这个包,后面在github项目中已经移动到package目录了。找不到的童鞋可以到package目录获取。 完成上面的步骤之后,我们来测试下flume+kafka这个流程有没有走通; 我们先启动flume,然后再启动kafka,启动步骤按之前的步骤执行;接下来我们使用kafka的kafka-console-consumer.sh脚本查看是否有flume有没有往Kafka传输数据; 以上这个是我的test.log文件通过flume抓取传到kafka的数据;说明我们的flume和kafka流程走通了; 大家还记得刚开始我们的流程图么,其中有一步是通过flume到kafka,还有一步是到hdfs的;而我们这边还没有提到如何存入kafka且同时存如hdfs; flume是支持数据同步复制,同步复制流程图如下,取自于flume官网,官网用户指南地址:http://flume./FlumeUserGuide.html 怎么设置同步复制呢,看下面的配置:
kafka和storm的整合 1.下载kafka-storm0.8插件:https://github.com/wurstmeister/storm-kafka-0.8-plus 2.使用maven package进行编译,得到storm-kafka-0.8-plus-0.3.0-SNAPSHOT.jar包 --有转载的童鞋注意下,这里的包名之前写错了,现在改正确了!不好意思! 3.将该jar包及kafka_2.9.2-0.8.0-beta1.jar、metrics-core-2.2.0.jar、scala-library-2.9.2.jar (这三个jar包在kafka项目中能找到) 备注:如果开发的项目需要其他jar,记得也要放进storm的Lib中比如用到了mysql就要添加mysql-connector-java-5.1.22-bin.jar到storm的lib下 那么接下来我们把storm也重启下; 完成以上步骤之后,我们还有一件事情要做,就是使用kafka-storm0.8插件,写一个自己的Storm程序; 这里我给大伙附上一个我弄的storm程序,百度网盘分享地址:链接: http://pan.baidu.com/s/1jGBp99W 密码: 9arq 先稍微看下程序的创建Topology代码 数据操作主要在WordCounter类中,这里只是使用简单JDBC进行插入处理 这里只需要输入一个参数作为Topology名称就可以了!我们这里使用本地模式,所以不输入参数,直接看流程是否走通;
先看下日志,这里打印出来了往数据库里面插入数据了 然后我们查看下数据库;插入成功了! 到这里我们的整个整合就完成了! 但是这里还有一个问题,不知道大伙有没有发现。 由于我们使用storm进行分布式流式计算,那么分布式最需要注意的是数据一致性以及避免脏数据的产生;所以我提供的测试项目只能用于测试,正式开发不能这样处理; 晨色星空J2EE(一个网名)给的建议是建立一个zookeeper的分布式全局锁,保证数据一致性,避免脏数据录入! zookeeper客户端框架大伙可以使用Netflix Curator来完成,由于这块我还没去看,所以只能写到这里了! http://blog.csdn.net/weijonathan/article/details/18301321 来自群组: Hadoop技术组 |
|