国产xxxx99真实实拍_久久不雅视频_高清韩国a级特黄毛片_嗯老师别我我受不了了小说

資訊專欄INFORMATION COLUMN

HDFS常見問題之Datanode故障

IT那活兒 / 4182人閱讀
HDFS常見問題之Datanode故障
[
一:HDFS結構
]


Namenode:用于管理文件系統的命名空間、目錄結構、元數據信息以及提供備份機制;


DataNode:用于存儲每個文件的“數據塊”數據,并且會周期性地向NameNode報告該DataNode的數據存放情況;


JournalNode:用于同步主備NameNode之間的元數據信息;

Zookeeper:是一個協調服務,幫助ZKFC執行主NameNode的選舉;

ZKFC:它負責監控NameNode的狀態,并及時把狀態寫入Zookeeper;


[
二:HDFSHA集群
]


1.為了避免單點故障問題,HDFS一般采用HA集群的方式部署,典型的HDFSHA場景為主備兩個NameNode方式運行,一個處于Active狀態,另一個處于Standby狀態,一旦主NameNode出現故障,可以迅速切換至備NameNode,從而不間斷對外提供服務。


2.NameNode之間通過一組JournalNode同步元數據信息,實現Active和Standby兩個NameNode的元數據信息同步。


[
三:HDFS原理
]


在HDFS內部,一個文件分成一個或多個“數據塊”,這些“數據塊”存儲在DataNode集合里,NameNode負責保存和管理所有的HDFS元數據。客戶端連接到NameNode,執行文件系統的“命名空間”操作,例如打開、關閉、重命名文件和目錄,同時決定“數據塊”到具體DataNode節點的映射。DataNode在NameNode的指揮下進行“數據塊”的創建、刪除和復制。客戶端連接到DataNode,執行讀寫數據塊操作。



[
四:HDFS數據節點硬盤故障案例
]


HDFS高可用集群中單數據節點datanode掛掉,不影響整個集群業務運行,更換硬盤屬于高危操作,更換前需要將其他業務遷出。


1.收到hadoop數據節點Datanode進程停掉的告警信息。


2.登錄集群管理節點,切換到故障節點,進入hadoop日志目錄查看datanode日志詳情,根據日志定位故障硬盤位置。


3.更換硬盤涉及風險,更換前應通知業務側停掉主機業務進程,然后再做更換操作。該主機歷史進程如下


4.停止業務進程

停止nodemanager(如有)

命令:yarn-daemon.shstop nodemanager

停止HRegionserver進程(業務集群使用graceful_stop.sh命令將region遷移到其他節點后停止regionserver)


命令:graceful_stop.shhadoop3(主機名)

查詢region已遷移至節點2


停止journalnode進程

命令:hadoop-daemon.shstop journalnode

停止datanode進程

命令:hadoop-daemon.shstop  datanode

停止zookeeper進程(如有)

命令:zkServer.shstop


5.更換數據節點故障硬盤,掛載到原文件夾并修改權限


6.查詢文件掛載及權限

查詢文件夾權限

命令:ll/ |grep chunk09

查詢hadoopHDFS配置文件中datanode參數

命令:morehdfs-site.xml


7.確認無誤后啟動進程

首先電話通知局方磁盤更換完成,現在要恢復進程

啟動zookeeper進程(如有)

zkServer.shstart

啟動datanode進程

命令:hadoop-daemon.shstart datanode

查詢hadoopdatanode日志,讀取到新盤所在chunk09


啟動journalnode進程

命令:hadoop-daemon.shstart journalnode

啟動regionserver進程

命令:hbase-daemon.shstart regionserver

注意:hbase請求量空閑的時候啟動,特別是某些特殊的集群,如詳單、計費、hbase集群均衡

進入頁面檢查hbase是否均衡,如果沒均衡(如果均衡不用管),手動開啟均衡

命令:echo“balance_switch true”|hbase shell

啟動nodemanager

命令:yarn-daemon.shstart nodemanager


8.主機查詢進程狀態

登錄HDFSUI查詢Datanode

HbaseUI查詢regionserver

參考:https://support.huawei.com/hedex/hdx.do?docid=EDOC1100020180&lang=zh&idPath=22658044%7C7919788%7C9856606%7C21110924

https://hadoop.apache.org/docs/stable/hadoop-project-dist/hadoop-hdfs/HdfsDesign.html

文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。

轉載請注明本文地址:http://specialneedsforspecialkids.com/yun/130073.html

相關文章

發表評論

0條評論

IT那活兒

|高級講師

TA的文章

閱讀更多
最新活動
閱讀需要支付1元查看
<