Namenode:用于管理文件系統的命名空間、目錄結構、元數據信息以及提供備份機制;
DataNode:用于存儲每個文件的“數據塊”數據,并且會周期性地向NameNode報告該DataNode的數據存放情況;
JournalNode:用于同步主備NameNode之間的元數據信息;
Zookeeper:是一個協調服務,幫助ZKFC執行主NameNode的選舉;
ZKFC:它負責監控NameNode的狀態,并及時把狀態寫入Zookeeper;
1.為了避免單點故障問題,HDFS一般采用HA集群的方式部署,典型的HDFSHA場景為主備兩個NameNode方式運行,一個處于Active狀態,另一個處于Standby狀態,一旦主NameNode出現故障,可以迅速切換至備NameNode,從而不間斷對外提供服務。
2.NameNode之間通過一組JournalNode同步元數據信息,實現Active和Standby兩個NameNode的元數據信息同步。
在HDFS內部,一個文件分成一個或多個“數據塊”,這些“數據塊”存儲在DataNode集合里,NameNode負責保存和管理所有的HDFS元數據。客戶端連接到NameNode,執行文件系統的“命名空間”操作,例如打開、關閉、重命名文件和目錄,同時決定“數據塊”到具體DataNode節點的映射。DataNode在NameNode的指揮下進行“數據塊”的創建、刪除和復制。客戶端連接到DataNode,執行讀寫數據塊操作。
HDFS高可用集群中單數據節點datanode掛掉,不影響整個集群業務運行,更換硬盤屬于高危操作,更換前需要將其他業務遷出。
1.收到hadoop數據節點Datanode進程停掉的告警信息。
2.登錄集群管理節點,切換到故障節點,進入hadoop日志目錄查看datanode日志詳情,根據日志定位故障硬盤位置。
3.更換硬盤涉及風險,更換前應通知業務側停掉主機業務進程,然后再做更換操作。該主機歷史進程如下
4.停止業務進程
停止nodemanager(如有)
命令:yarn-daemon.shstop nodemanager
停止HRegionserver進程(業務集群使用graceful_stop.sh命令將region遷移到其他節點后停止regionserver)
命令:graceful_stop.shhadoop3(主機名)
查詢region已遷移至節點2
停止journalnode進程
命令:hadoop-daemon.shstop journalnode
停止datanode進程
命令:hadoop-daemon.shstop datanode
停止zookeeper進程(如有)
命令:zkServer.shstop
5.更換數據節點故障硬盤,掛載到原文件夾并修改權限
6.查詢文件掛載及權限
查詢文件夾權限
命令:ll/ |grep chunk09
查詢hadoopHDFS配置文件中datanode參數
命令:morehdfs-site.xml
7.確認無誤后啟動進程
首先電話通知局方磁盤更換完成,現在要恢復進程
啟動zookeeper進程(如有)
zkServer.shstart
啟動datanode進程
命令:hadoop-daemon.shstart datanode
查詢hadoopdatanode日志,讀取到新盤所在chunk09
啟動journalnode進程
命令:hadoop-daemon.shstart journalnode
啟動regionserver進程
命令:hbase-daemon.shstart regionserver
注意:hbase請求量空閑的時候啟動,特別是某些特殊的集群,如詳單、計費、hbase集群均衡
進入頁面檢查hbase是否均衡,如果沒均衡(如果均衡不用管),手動開啟均衡
命令:echo“balance_switch true”|hbase shell
啟動nodemanager
命令:yarn-daemon.shstart nodemanager
8.主機查詢進程狀態
登錄HDFSUI查詢Datanode
HbaseUI查詢regionserver
參考:https://support.huawei.com/hedex/hdx.do?docid=EDOC1100020180&lang=zh&idPath=22658044%7C7919788%7C9856606%7C21110924
https://hadoop.apache.org/docs/stable/hadoop-project-dist/hadoop-hdfs/HdfsDesign.html
文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。
轉載請注明本文地址:http://specialneedsforspecialkids.com/yun/130073.html
閱讀 1346·2023-01-11 13:20
閱讀 1684·2023-01-11 13:20
閱讀 1132·2023-01-11 13:20
閱讀 1858·2023-01-11 13:20
閱讀 4100·2023-01-11 13:20
閱讀 2704·2023-01-11 13:20
閱讀 1385·2023-01-11 13:20
閱讀 3597·2023-01-11 13:20