資訊專欄INFORMATION COLUMN
摘要：文章作者原文鏈接基本介紹是一個(gè)分布式數(shù)據(jù)庫可以提供數(shù)據(jù)的實(shí)時(shí)隨機(jī)讀寫。表劃分為不同的。高可用集群應(yīng)配置兩臺(tái)一臺(tái)處于狀態(tài)一臺(tái)處于狀態(tài)，用于監(jiān)聽可以再從另外兩條機(jī)器中再啟動(dòng)一個(gè)服務(wù)。
文章作者：foochane?
原文鏈接：https://foochane.cn/article/2019062801.html
1 Hbase基本介紹Hbase是一個(gè)分布式數(shù)據(jù)庫,可以提供數(shù)據(jù)的實(shí)時(shí)隨機(jī)讀寫。
Hbase與mysql、oralce、db2、sqlserver等關(guān)系型數(shù)據(jù)庫不同，它是一個(gè)NoSQL數(shù)據(jù)庫（非關(guān)系型數(shù)據(jù)庫）,并且有如下特點(diǎn)：
Hbase的表模型與關(guān)系型數(shù)據(jù)庫的表模型不同：
Hbase的表沒有固定的字段定義；
Hbase的表中每行存儲(chǔ)的都是一些key-value對(duì)
Hbase的表中有列族的劃分，用戶可以指定將哪些kv插入哪個(gè)列族
Hbase的表在物理存儲(chǔ)上，是按照列族來分割的，不同列族的數(shù)據(jù)一定存儲(chǔ)在不同的文件中
Hbase的表中的每一行都固定有一個(gè)行鍵，而且每一行的行鍵在表中不能重復(fù)
Hbase中的數(shù)據(jù)，包含行鍵，包含key，包含value，都是byte[ ]類型，hbase不負(fù)責(zé)為用戶維護(hù)數(shù)據(jù)類型
Hbase對(duì)事務(wù)的支持很差
HBASE相比于其他nosql數(shù)據(jù)庫(mongodb、redis、cassendra、hazelcast)的特點(diǎn)：
因?yàn)?b>Hbase的表數(shù)據(jù)存儲(chǔ)在HDFS文件系統(tǒng)中,所以存儲(chǔ)容量可以線性擴(kuò)展； 數(shù)據(jù)存儲(chǔ)的安全性可靠性極高！
| rowkey:行鍵 | base_info | extra_info |
|---|---|---|
| 001 | name:zs,age:22,sex:male | hobbiy:read,addr:beijing |
| 002 | name:laowang,sex:male |
hbase的表模型跟mysql之類的關(guān)系型數(shù)據(jù)庫的表模型差別巨大
hbase的表模型中有：行的概念；但沒有字段的概念
行中存的都是key-value對(duì)，每行中的key-value對(duì)中的key可以是各種各樣的。
hbase表模型的要點(diǎn)
一個(gè)表，有表名
一個(gè)表可以分為多個(gè)列族（不同列族的數(shù)據(jù)會(huì)存儲(chǔ)在不同文件中）
表中的每一行有一個(gè)“行鍵rowkey”，而且行鍵在表中不能重復(fù)
表中的每一對(duì)key-value叫做一個(gè)cell
hbase可以對(duì)數(shù)據(jù)存儲(chǔ)多個(gè)歷史版本（歷史版本數(shù)量可配置），默認(rèn)取最新的版本
整張表由于數(shù)據(jù)量過大，會(huì)被橫向切分成若干個(gè)region（用rowkey范圍標(biāo)識(shí)），不同region的數(shù)據(jù)也存儲(chǔ)在不同文件中
hbase會(huì)對(duì)插入的數(shù)據(jù)按順序存儲(chǔ)：
首先會(huì)按行鍵排序
同一行里面的kv會(huì)按列族排序，再按k排序
hbase的表數(shù)據(jù)類型：
hbase中只支持byte[] ,此處的byte[] 包括了： rowkey,key,value,列族名,表名。
表劃分為不同的region。
[圖片上傳失敗...(image-ec30fc-1561887883664)]
Hbase分布式系統(tǒng)包含兩個(gè)角色
管理角色：HMaster(一般2臺(tái)，一臺(tái)active，一臺(tái)standby）
數(shù)據(jù)節(jié)點(diǎn)角色：HRegionServer（多臺(tái)，和datanode在一起）
Hbase不做數(shù)據(jù)處理的話，不需要yarn，yarn是復(fù)制Mapreduce計(jì)算的，Hbase只是負(fù)責(zé)數(shù)據(jù)管理
4 Hbase安裝 4.1 安裝準(zhǔn)備首先，要有一個(gè)HDFS集群，并正常運(yùn)行； Hbase的regionserver應(yīng)該跟hdfs中的datanode在一起
其次，還需要一個(gè)zookeeper集群，并正常運(yùn)行,所以安裝Hbase要先安裝zookeeper，zookeeper前面已經(jīng)安裝過了。
然后，安裝Hbase
各個(gè)節(jié)點(diǎn)角色分配如下：
| 節(jié)點(diǎn) | 安裝的服務(wù) |
|---|---|
| Master | namenode datanode regionserver hmaster zookeeper |
| Slave01 | datanode regionserver zookeeper |
| Slave02 | datanode regionserver zookeeper |
解壓hbase安裝包 hbase-2.0.5-bin.tar.gz
修改hbase-env.sh
export JAVA_HOME=/usr/local/bigdata/java/jdk1.8.0_211 # 不啟動(dòng)hbase自帶的zookeeper,我們自己已經(jīng)裝了 export HBASE_MANAGES_ZK=false
修改hbase-site.xml
hbase.rootdir hdfs://Master:9000/hbase hbase.cluster.distributed true hbase.zookeeper.quorum Master:2181,Slave01:2181,Slave02:2181
修改 regionservers
Master Slave01 Slave02
修改完成后，將安裝文件夾放到三個(gè)節(jié)點(diǎn)的/usr/local/bigdata/目錄下
6 啟動(dòng)Hbase集群先檢查hdfs和zookeeper是否正常啟動(dòng)，
Master：
hadoop@Master:~$ jps 4918 DataNode 2744 QuorumPeerMain 4748 NameNode 9949 Jps 5167 SecondaryNameNode hadoop@Master:~$ /usr/local/bigdata/zookeeper-3.4.6/bin/zkServer.sh status JMX enabled by default Using config: /usr/local/bigdata/zookeeper-3.4.6/bin/../conf/zoo.cfg Mode: follower
Slave01:
hadoop@Slave1:~$ jps 3235 QuorumPeerMain 3779 DataNode 5546 Jps hadoop@Slave1:~$ /usr/local/bigdata/zookeeper-3.4.6/bin/zkServer.sh status JMX enabled by default Using config: /usr/local/bigdata/zookeeper-3.4.6/bin/../conf/zoo.cfg Mode: leader
Slave02:
hadoop@Slave2:~$ jps 11958 DataNode 13656 Jps 11390 QuorumPeerMain hadoop@Slave2:~$ /usr/local/bigdata/zookeeper-3.4.6/bin/zkServer.sh status JMX enabled by default Using config: /usr/local/bigdata/zookeeper-3.4.6/bin/../conf/zoo.cfg Mode: follower
然后執(zhí)行start-hbase.sh
$ bin/start-hbase.sh
上面的命令會(huì)啟動(dòng)配置文件regionserver里添加的所有機(jī)器，如果想手動(dòng)啟動(dòng)其中一臺(tái)可以用：
$ bin/hbase-daemon.sh start regionserver
啟動(dòng)完成后在Master上會(huì)啟動(dòng)HRegionServer和HMaster兩個(gè)服務(wù)，Slave01和Slave02會(huì)啟動(dòng)HMaster服務(wù)。
高可用Hbase集群應(yīng)配置兩臺(tái)master一臺(tái)處于active狀態(tài)一臺(tái)處于standby狀態(tài)，用于監(jiān)聽regionserver
可以再從另外兩條機(jī)器中再啟動(dòng)一個(gè)HRegionServer服務(wù)。
$ bin/hbase-daemon.sh start master
新啟的這個(gè)master會(huì)處于backup狀態(tài)
7 啟動(dòng)Hbase的命令行客戶端使用命令hbase shell
bin/hbase shell Hbase> list // 查看表 Hbase> status // 查看集群狀態(tài) Hbase> version // 查看集群版本
ERROR: org.apache.hadoop.hbase.ipc.ServerNotRunningYetException: Server is not running yet
at org.apache.hadoop.hbase.master.HMaster.checkServiceStarted(HMaster.java:2932)
at org.apache.hadoop.hbase.master.MasterRpcServices.isMasterRunning(MasterRpcServices.java:1084)
at org.apache.hadoop.hbase.shaded.protobuf.generated.MasterProtos$MasterService$2.callBlockingMethod(MasterProtos.java)
at org.apache.hadoop.hbase.ipc.RpcServer.call(RpcServer.java:413)
at org.apache.hadoop.hbase.ipc.CallRunner.run(CallRunner.java:130)
at org.apache.hadoop.hbase.ipc.RpcExecutor$Handler.run(RpcExecutor.java:324)
at org.apache.hadoop.hbase.ipc.RpcExecutor$Handler.run(RpcExecutor.java:304)
$ hdfs dfsadmin -safemode leave8 Hbase命令行客戶端操作 8.1 建表
create "t_user_info","base_info","extra_info"
表名 列族名 列族名
8.2 插入數(shù)據(jù)：
hbase(main):011:0> put "t_user_info","001","base_info:username","zhangsan" 0 row(s) in 0.2420 seconds hbase(main):012:0> put "t_user_info","001","base_info:age","18" 0 row(s) in 0.0140 seconds hbase(main):013:0> put "t_user_info","001","base_info:sex","female" 0 row(s) in 0.0070 seconds hbase(main):014:0> put "t_user_info","001","extra_info:career","it" 0 row(s) in 0.0090 seconds hbase(main):015:0> put "t_user_info","002","extra_info:career","actoress" 0 row(s) in 0.0090 seconds hbase(main):016:0> put "t_user_info","002","base_info:username","liuyifei" 0 row(s) in 0.0060 seconds8.3 查詢數(shù)據(jù)方式一：scan 掃描
hbase(main):017:0> scan "t_user_info" ROW COLUMN+CELL 001 column=base_info:age, timestamp=1496567924507, value=18 001 column=base_info:sex, timestamp=1496567934669, value=female 001 column=base_info:username, timestamp=1496567889554, value=zhangsan 001 column=extra_info:career, timestamp=1496567963992, value=it 002 column=base_info:username, timestamp=1496568034187, value=liuyifei 002 column=extra_info:career, timestamp=1496568008631, value=actoress 2 row(s) in 0.0420 seconds8.4 查詢數(shù)據(jù)方式二：get 單行數(shù)據(jù)
hbase(main):020:0> get "t_user_info","001" COLUMN CELL base_info:age timestamp=1496568160192, value=19 base_info:sex timestamp=1496567934669, value=female base_info:username timestamp=1496567889554, value=zhangsan extra_info:career timestamp=1496567963992, value=it 4 row(s) in 0.0770 seconds8.5 刪除一個(gè)kv數(shù)據(jù)
hbase(main):021:0> delete "t_user_info","001","base_info:sex" 0 row(s) in 0.0390 seconds 刪除整行數(shù)據(jù)： hbase(main):024:0> deleteall "t_user_info","001" 0 row(s) in 0.0090 seconds hbase(main):025:0> get "t_user_info","001" COLUMN CELL 0 row(s) in 0.0110 seconds 3.4.1.6. 刪除整個(gè)表： hbase(main):028:0> disable "t_user_info" 0 row(s) in 2.3640 seconds hbase(main):029:0> drop "t_user_info" 0 row(s) in 1.2950 seconds hbase(main):030:0> list TABLE 0 row(s) in 0.0130 seconds => []8.6 Hbase重要特性--排序特性（行鍵）
插入到hbase中去的數(shù)據(jù)，hbase會(huì)自動(dòng)排序存儲(chǔ)：
排序規(guī)則： 首先看行鍵，然后看列族名，然后看列（key）名； 按字典順序
Hbase的這個(gè)特性跟查詢效率有極大的關(guān)系
比如：一張用來存儲(chǔ)用戶信息的表，有名字，戶籍，年齡，職業(yè)....等信息
然后，在業(yè)務(wù)系統(tǒng)中經(jīng)常需要：
查詢某個(gè)省的所有用戶
經(jīng)常需要查詢某個(gè)省的指定姓的所有用戶
思路：如果能將相同省的用戶在hbase的存儲(chǔ)文件中連續(xù)存儲(chǔ)，并且能將相同省中相同姓的用戶連續(xù)存儲(chǔ)，那么，上述兩個(gè)查詢需求的效率就會(huì)提高！！！
做法：將查詢條件拼到rowkey內(nèi)
9 HBASE客戶端API操作 9.1 DDL操作代碼流程：
創(chuàng)建一個(gè)連接：Connection conn = ConnectionFactory.createConnection(conf);
拿到一個(gè)DDL操作器：表管理器：adminAdmin admin = conn.getAdmin();
用表管理器的api去建表、刪表、修改表定義：admin.createTable(HTableDescriptor descriptor);
@Before
public void getConn() throws Exception{
// 構(gòu)建一個(gè)連接對(duì)象
Configuration conf = HBaseConfiguration.create(); // 會(huì)自動(dòng)加載hbase-site.xml
conf.set("hbase.zookeeper.quorum", "192.168.233.200:2181,192.168.233.201:2181,192.168.233.202:2181");
conn = ConnectionFactory.createConnection(conf);
}
/**
* DDL
* @throws Exception
*/
@Test
public void testCreateTable() throws Exception{
// 從連接中構(gòu)造一個(gè)DDL操作器
Admin admin = conn.getAdmin();
// 創(chuàng)建一個(gè)表定義描述對(duì)象
HTableDescriptor hTableDescriptor = new HTableDescriptor(TableName.valueOf("user_info"));
// 創(chuàng)建列族定義描述對(duì)象
HColumnDescriptor hColumnDescriptor_1 = new HColumnDescriptor("base_info");
hColumnDescriptor_1.setMaxVersions(3); // 設(shè)置該列族中存儲(chǔ)數(shù)據(jù)的最大版本數(shù),默認(rèn)是1
HColumnDescriptor hColumnDescriptor_2 = new HColumnDescriptor("extra_info");
// 將列族定義信息對(duì)象放入表定義對(duì)象中
hTableDescriptor.addFamily(hColumnDescriptor_1);
hTableDescriptor.addFamily(hColumnDescriptor_2);
// 用ddl操作器對(duì)象：admin 來建表
admin.createTable(hTableDescriptor);
// 關(guān)閉連接
admin.close();
conn.close();
}
/**
* 刪除表
* @throws Exception
*/
@Test
public void testDropTable() throws Exception{
Admin admin = conn.getAdmin();
// 停用表
admin.disableTable(TableName.valueOf("user_info"));
// 刪除表
admin.deleteTable(TableName.valueOf("user_info"));
admin.close();
conn.close();
}
// 修改表定義--添加一個(gè)列族
@Test
public void testAlterTable() throws Exception{
Admin admin = conn.getAdmin();
// 取出舊的表定義信息
HTableDescriptor tableDescriptor = admin.getTableDescriptor(TableName.valueOf("user_info"));
// 新構(gòu)造一個(gè)列族定義
HColumnDescriptor hColumnDescriptor = new HColumnDescriptor("other_info");
hColumnDescriptor.setBloomFilterType(BloomType.ROWCOL); // 設(shè)置該列族的布隆過濾器類型
// 將列族定義添加到表定義對(duì)象中
tableDescriptor.addFamily(hColumnDescriptor);
// 將修改過的表定義交給admin去提交
admin.modifyTable(TableName.valueOf("user_info"), tableDescriptor);
admin.close();
conn.close();
}
9.2 DML操作
HBase的增刪改查
Connection conn = null;
@Before
public void getConn() throws Exception{
// 構(gòu)建一個(gè)連接對(duì)象
Configuration conf = HBaseConfiguration.create(); // 會(huì)自動(dòng)加載hbase-site.xml
conf.set("hbase.zookeeper.quorum", "Master:2181,Slave01:2181,Slave02:2181");
conn = ConnectionFactory.createConnection(conf);
}
/**
* 增
* 改:put來覆蓋
* @throws Exception
*/
@Test
public void testPut() throws Exception{
// 獲取一個(gè)操作指定表的table對(duì)象,進(jìn)行DML操作
Table table = conn.getTable(TableName.valueOf("user_info"));
// 構(gòu)造要插入的數(shù)據(jù)為一個(gè)Put類型(一個(gè)put對(duì)象只能對(duì)應(yīng)一個(gè)rowkey)的對(duì)象
Put put = new Put(Bytes.toBytes("001"));
put.addColumn(Bytes.toBytes("base_info"), Bytes.toBytes("username"), Bytes.toBytes("張三"));
put.addColumn(Bytes.toBytes("base_info"), Bytes.toBytes("age"), Bytes.toBytes("18"));
put.addColumn(Bytes.toBytes("extra_info"), Bytes.toBytes("addr"), Bytes.toBytes("北京"));
Put put2 = new Put(Bytes.toBytes("002"));
put2.addColumn(Bytes.toBytes("base_info"), Bytes.toBytes("username"), Bytes.toBytes("李四"));
put2.addColumn(Bytes.toBytes("base_info"), Bytes.toBytes("age"), Bytes.toBytes("28"));
put2.addColumn(Bytes.toBytes("extra_info"), Bytes.toBytes("addr"), Bytes.toBytes("上海"));
ArrayList puts = new ArrayList<>();
puts.add(put);
puts.add(put2);
// 插進(jìn)去
table.put(puts);
table.close();
conn.close();
}
/**
* 循環(huán)插入大量數(shù)據(jù)
* @throws Exception
*/
@Test
public void testManyPuts() throws Exception{
Table table = conn.getTable(TableName.valueOf("user_info"));
ArrayList puts = new ArrayList<>();
for(int i=0;i<100000;i++){
Put put = new Put(Bytes.toBytes(""+i));
put.addColumn(Bytes.toBytes("base_info"), Bytes.toBytes("username"), Bytes.toBytes("張三"+i));
put.addColumn(Bytes.toBytes("base_info"), Bytes.toBytes("age"), Bytes.toBytes((18+i)+""));
put.addColumn(Bytes.toBytes("extra_info"), Bytes.toBytes("addr"), Bytes.toBytes("北京"));
puts.add(put);
}
table.put(puts);
}
/**
* 刪
* @throws Exception
*/
@Test
public void testDelete() throws Exception{
Table table = conn.getTable(TableName.valueOf("user_info"));
// 構(gòu)造一個(gè)對(duì)象封裝要?jiǎng)h除的數(shù)據(jù)信息
Delete delete1 = new Delete(Bytes.toBytes("001"));
Delete delete2 = new Delete(Bytes.toBytes("002"));
delete2.addColumn(Bytes.toBytes("extra_info"), Bytes.toBytes("addr"));
ArrayList dels = new ArrayList<>();
dels.add(delete1);
dels.add(delete2);
table.delete(dels);
table.close();
conn.close();
}
/**
* 查
* @throws Exception
*/
@Test
public void testGet() throws Exception{
Table table = conn.getTable(TableName.valueOf("user_info"));
Get get = new Get("002".getBytes());
Result result = table.get(get);
// 從結(jié)果中取用戶指定的某個(gè)key的value
byte[] value = result.getValue("base_info".getBytes(), "age".getBytes());
System.out.println(new String(value));
System.out.println("-------------------------");
// 遍歷整行結(jié)果中的所有kv單元格
CellScanner cellScanner = result.cellScanner();
while(cellScanner.advance()){
Cell cell = cellScanner.current();
byte[] rowArray = cell.getRowArray(); //本kv所屬的行鍵的字節(jié)數(shù)組
byte[] familyArray = cell.getFamilyArray(); //列族名的字節(jié)數(shù)組
byte[] qualifierArray = cell.getQualifierArray(); //列名的字節(jié)數(shù)據(jù)
byte[] valueArray = cell.getValueArray(); // value的字節(jié)數(shù)組
System.out.println("行鍵: "+new String(rowArray,cell.getRowOffset(),cell.getRowLength()));
System.out.println("列族名: "+new String(familyArray,cell.getFamilyOffset(),cell.getFamilyLength()));
System.out.println("列名: "+new String(qualifierArray,cell.getQualifierOffset(),cell.getQualifierLength()));
System.out.println("value: "+new String(valueArray,cell.getValueOffset(),cell.getValueLength()));
}
table.close();
conn.close();
}
/**
* 按行鍵范圍查詢數(shù)據(jù)
* @throws Exception
*/
@Test
public void testScan() throws Exception{
Table table = conn.getTable(TableName.valueOf("user_info"));
// 包含起始行鍵，不包含結(jié)束行鍵,但是如果真的想查詢出末尾的那個(gè)行鍵，那么，可以在末尾行鍵上拼接一個(gè)不可見的字節(jié)（