|
一．Hbase简介： Hbase是bigtable的开源山寨版本。它利用HadoopHDFS作为其文件存储系统，利用Hadoop MapReduce来处理HBase中的海量数据，利用Zookeeper作为协同服务。提供高可靠性、高性能、列存储、可伸缩、实时读写的数据库系统。 它介于nosql和RDBMS之间，仅能通过主键(row key)和主键的range来检索数据，仅支持单行事务(可通过hive支持来实现多表join等复杂操作)。主要用来存储非结构化和半结构化的松散数据。 Pig和Hive还为HBase提供了高层语言支持，使得在HBase上进行数据统计处理变的非常简单。 Sqoop则为HBase提供了方便的RDBMS数据导入功能，使得传统数据库数据向HBase中迁移变的非常方便。 与hadoop一样，Hbase目标主要依靠横向扩展，通过不断增加廉价的商用服务器，来增加计算和存储能力。 二.HBase中的表一般有这样的特点： 1 大：一个表可以有上亿行，上百万列 2 面向列:面向列(族)的存储和权限控制，列(族)独立检索。 3 稀疏:对于为空(null)的列，并不占用存储空间，因此，表可以设计的非常稀疏。 三.HBase访问接口: 1. Native Java API，最常规和高效的访问方式，适合Hadoop MapReduce Job并行批处理HBase表数据 2. HBase Shell，HBase的命令行工具，最简单的接口，适合HBase管理使用 3. Thrift Gateway，利用Thrift序列化技术，支持C++，PHP，Python等多种语言，适合其他异构系统在线访问HBase表数据 4. REST Gateway，支持REST 风格的Http API访问HBase, 解除了语言限制 5. Pig，可以使用PigLatin流式编程语言来操作HBase中的数据，和Hive类似，本质最终也是编译成MapReduce Job来处理HBase表数据，适合做数据统计 6. Hive,可以使用类似SQL语言来访问HBase 四．Hbase表结构：
1.Row Key（行健）： 用来检索记录主键，Table中的记录按照Row Key排序。访问hbasetable中的行，只有三种方式：1. 通过单个row key访问；2.通过row key的range；3.全表扫描。 Row key行键可以是任意字符串(最大长度是 64KB，实际应用中长度一般为10-100bytes)，在hbase内部，row key保存为字节数组。 存储时，数据按照Row key的字典序(byteorder)排序存储。设计key时，将经常一起读取的行存储放到一起。 字典序对int排序的结果是1,10,100,11,12,13,14,15,16,17,18,19,2,20,21,…,9,91,92,93,94,95,96,97,98,99。要保持整形的自然序，行键必须用0作左填充。 2.Timestamp（时间戳）: 每次数据操作对应的时间戳，可以看作是数据的version number。 HBase中通过row和columns确定的为一个存贮单元称为cell。每个 cell都保存着同一份数据的多个版本。版本通过时间戳来索引。时间戳的类型是 64位整型。时间戳可以由hbase(在数据写入时自动 )赋值，此时时间戳是精确到毫秒的当前系统时间。时间戳也可以由客户显式赋值。如果应用程序要避免数据版本冲突，就必须自己生成具有唯一性的时间戳。每个 cell中，不同版本的数据按照时间倒序排序，即最新的数据排在最前面。 为了避免数据存在过多版本造成的的管理 (包括存贮和索引)负担，hbase提供了两种数据版本回收方式。一是保存数据的最后n个版本，二是保存最近一段时间内的版本（比如最近七天）。用户可以针对每个列族进行设置。 3.Column Family（列族）： hbase表中的每个列，都归属与某个列族，Table在水平方向有一个或者多个ColumnFamily组成，一个Column Family中可以由任意多个Column组成，即Column Family支持动态扩展，列族必须在使用表之前定义。列名都以列族作为前缀。例如courses:history，courses:math都属于courses这个列族。无需预先定义Column的数量以及类型，所有Column均以二进制格式存储，用户需要自行进行类型转换。 访问控制、磁盘和内存的使用统计都是在列族层面进行的。实际应用中，列族上的控制权限能 帮助我们管理不同类型的应用：我们允许一些应用可以添加新的基本数据、一些应用可以读取基本数据并创建继承的列族、一些应用则只允许浏览数据（甚至可能因 为隐私的原因不能浏览所有数据）。 4.Cell： 由{row key, column(=<family> + <label>), version}唯一确定的单元。cell中的数据是没有类型的，全部是字节码形式存贮。 5.-ROOT- && .META.Table HBase中有两张特殊的Table，-ROOT-和.META. .META.：记录了用户表的Region信息，.META.可以有多个regoin -ROOT-：记录了.META.表的Region信息，-ROOT-只有一个region Zookeeper中记录了-ROOT-表的location
三．物理存储： 1 Table中的所有行都按照rowkey的字典序排列。 2 Table 在行的方向上分割为多个Hregion。
3 region按大小分割的，每个表一开始只有一个region，随着数据不断插入表，region不断增大，当增大到一个阀值的时候，Hregion就会等分会两个新的Hregion。当table中的行不断增多，就会有越来越多的Hregion。
4 Hregion是Hbase中分布式存储和负载均衡的最小单元。最小单元就表示不同的Hregion可以分布在不同的HRegionserver上。但一个Hregion是不会拆分到多个server上的。
5 HRegion虽然是分布式存储的最小单元，但并不是存储的最小单元。 事实上，HRegion由一个或者多个Store组成，每个store保存一个columns family。 每个Strore又由一个memStore和0至多个StoreFile组成。如图： StoreFile以HFile格式保存在HDFS上。
五、系统架构
Client： 包含访问hbase的接口，client维护着一些cache来加快对hbase的访问，比如regione的位置信息。 Zookeeper 1 保证任何时候，集群中只有一个master 2 存贮所有Region的寻址入口。 3 实时监控Region Server的状态，将Regionserver的上线和下线信息实时通知给Master 4 存储Hbase的schema,包括有哪些table，每个table有哪些columnfamily Master 1 为Region server分配region 2 负责region server的负载均衡 3 发现失效的region server并重新分配其上的region 4 GFS上的垃圾文件回收 5 处理schema更新请求 Region Server 1 Region server维护Master分配给它的region，处理对这些region的IO请求 2 Region server负责切分在运行过程中变得过大的region 六．关键流程： 1.region定位： .META.是一个特殊的表，保存了hbase中所有数据表的region位置信息。
root region永远不会被split，保证了最需要三次跳转，就能定位到任意region 。 .META.表每行保存一个region的位置信息，rowkey 采用表名+表的最后一样编码而成。 为了加快访问，.META.表的全部region都保存在内存中。 2.region分配 任何时刻，一个region只能分配给一个region server。master记录了当前有哪些可用的region server。以及当前哪些region分配给了哪些region server，哪些region还没有分配。当存在未分配的region，并且有一个region server上有可用空间时，master就给这个region server发送一个装载请求，把region分配给这个region server。regionserver得到请求后，就开始对此region提供服务。 3.region server上线 master使用zookeeper来跟踪regionserver状态。当某个region server启动时，会首先在zookeeper上的server目录下建立代表自己的文件，并获得该文件的独占锁。由于master订阅了server目录上的变更消息，当server目录下的文件出现新增或删除操作时，master可以得到来自zookeeper的实时通知。因此一旦region server上线，master能马上得到消息。 4.region server下线 当region server下线时，它和zookeeper的会话断开，zookeeper而自动释放代表这台server的文件上的独占锁。而master不断轮询server目录下文件的锁状态。如果master发现某个region server丢失了它自己的独占锁，(或者master连续几次和region server通信都无法成功),master就是尝试去获取代表这个region server的读写锁，一旦获取成功，就可以确定： 1 )region server和zookeeper之间的网络断开了。 2 )region server挂了。 的其中一种情况发生了，无论哪种情况，region server都无法继续为它的region提供服务了，此时master会删除server目录下代表这台regionserver的文件，并将这台region server的region分配给其它还活着的同志。 如果网络短暂出现问题导致region server丢失了它的锁，那么regionserver重新连接到zookeeper之后，只要代表它的文件还在，它就会不断尝试获取这个文件上的锁，一旦获取到了，就可以继续提供服务。 5.master上线 master启动进行以下步骤: 1) 从zookeeper上获取唯一一个代码master的锁，用来阻止其它master成为master。 2 )扫描zookeeper上的server目录，获得当前可用的region server列表。 3) 和2)中的每个regionserver通信，获得当前已分配的region和regionserver的对应关系。 4 )扫描.META.region的集合，计算得到当前还未分配的region，将他们放入待分配region列表。 6.master下线 由于master只维护表和region的元数据，而不参与表数据IO的过程，master下线仅导致所有元数据的修改被冻结(无法创建删除表，无法修改表的schema，无法进行region的负载均衡，无法处理region上下线，无法进行region的合并，唯一例外的是region的split可以正常进行，因为只有regionserver参与)，表的数据读写还可以正常进行。因此master下线短时间内对整个hbase集群没有影响。从上线过程可以看到，master保存的 信息全是可以冗余信息（都可以从系统其它地方收集到或者计算出来），因此，一般hbase集群中总是有一个master在提供服务，还有一个以上 的’master’在等待时机抢占它的位置。 七．实战练习： 先启动hadoop，然后.启动hbase：jps查看，注意在master(即HMater)节点上有HMaster和HRegionServer、HQuorumPeer三个服务项，在datanode（即HRegionServer）中查看需要启动的是HQuorumPeer和HRegionServer。 通过WEB查看hbase： 查看Master http://master:60010/master.jsp 查看Region Serverhttp://slave:60030/regionserver.jsp 查看ZK Tree http://master:60010/zk.jsp 以下面这个表格为例子，练习hbase shell命令
这里grad对于表来说是一个只有它自己的列族,course对于表来说是一个有两个列的列族,这个列族由两个列组成math和art,当然我们可以根据我们的需要在course中建立更多的列族,如computer,physics等相应的列添加入course列族。 hbase(main):001:0> create ‘scores','grade',‘course' put‘scores','Tom','grade:','5′ put命令比较简单，只有这一种用法： 根据键值查询数据: COLUMN CELL course:art timestamp=1371374709443,value=80 course:math timestamp=1371374691043,value=89 grade: timestamp=1371374659931, value=4 3row(s) in 0.0360 seconds
COLUMN CELL grade: timestamp=1371374659931,value=4 1row(s) in 0.0230 seconds
hbase(main):015:0> scan'scores' ROW COLUMN+CELL Jim column=course:art,timestamp=1371374709443, value=80 Jim column=course:math,timestamp=1371374691043, value=89 Jim column=grade:,timestamp=1371374659931, value=4 Tom column=course:art,timestamp=1371374627295, value=87 Tom column=course:math,timestamp=1371374609639, value=97 Tom column=grade:,timestamp=1371374578670, value=5 2row(s) in 0.1150 seconds 删除指定数据 delete ‘scores','Jim','grade' Deleteall ‘score’,’Jim’ //删除整行 修改表结构
|
|
|
