国产xxxx99真实实拍_久久不雅视频_高清韩国a级特黄毛片_嗯老师别我我受不了了小说

資訊專欄INFORMATION COLUMN

hadoop入門學習教程--DKHadoop完整安裝步驟

superPershing / 2014人閱讀

摘要:入門學習教程完整安裝步驟使用版本是標準三節點發行版,版本的易用性比較好,環境部署要簡單的多,參考此篇安裝前請先下載版本,網盤鏈接提取碼第一部分準備工作大數據平臺所需配置系統位需默認安裝及以上。防止訪問服務器時某些服務被攔截需關閉防火墻。

hadoop入門學習教程--DKHadoop完整安裝步驟
使用hadoop版本是DKH標準三節點發行版,DKHadoop版本的易用性比較好,環境部署要簡單的多,參考此篇安裝前請先下載DKHadoop版本,網盤鏈接:https://pan.baidu.com/s/1-427... 提取碼:vg2w
第一部分:準備工作
1、 大數據平臺所需配置:
(1) 系統:CentOS 6.5 64位(需默認安裝Desktop)
(2) CPU :intel E3及以上。
(3) 內存:建議最小8G,用圖計算建議32G,推薦128G。
(4) 硬盤:256G以上,推薦使用固態硬盤。
(5) 系統分區要求: 如無特殊需求,除swap分區外,可將剩余空間全部分配到/(根)分區
(6) 網絡要求:如無特殊情況,盡量可以接入外網。
(7) 至少三臺服務器(三臺服務器名字任意起,密碼須一致)。
(8)安裝使用root用戶作為默認用戶
2、 遠程上傳和遠程連接工具:
(1) 若直接使用個人PC開啟的虛擬機作為服務器的基礎,直接拷貝到虛擬機下即可。
(2) 若是使用機房服務器作平臺搭建的服務器,如若不能直接接觸到服務器,則需要使用遠程工具連接并發送安裝包

第二部分:服務器操作系統配置

1.修改權限
步驟:在準備工作中拷貝安裝包DKHPlantform.zip到主節點/root/目錄后,解壓并修改文件權限(文件所有者可讀可寫可執行,與文件所有者屬于一個用戶組的其他用戶可讀可執行,其他用戶組可讀可執行)。
命令:
cd /root/
unzip DKHPlantform.zip
chmod -R 755 DKHPlantform

搭建hadoop集群設置SSH免密登錄

步驟:
修改主機名 vi /etc/sysconfig/network reboot
(1)修改本機hosts文件,寫入對應關系
命令:
vi /etc/hosts
通過按鍵盤上的insert或是I鍵進入編輯模式,編輯完成后按一下Esc鍵然后按一下按Shift+:鍵,輸入wq 后回車就可以保存。輸入q!后回車則是放棄保存并退出.
進入編輯模式后,按照規則寫入主機與ip的對應關系(主機名稱dk41是自己命名的,如下圖)例:

    192.168.1.41    dk41

192.168.1.42 dk42
192.168.1.43 dk43

編輯完后,保存退出。把對應關系拷到其他兩臺機器上。
命令:
scp -r /etc/hosts 192.168.1.42:/etc
scp -r /etc/hosts 192.168.1.43:/etc
(2)執行集群之間免密前的準備工作
a)執行sshpass.sh的腳本的時候會去讀sshhosts和sshslaves這兩個文件,
修改文件sshhosts,輸入全部機器的主機名,每行一個主機名(如下圖)
命令:
vi /root/DKHPlantform/autossh/sshhosts
通過按鍵盤上的insert或是I鍵進入編輯模式,編輯完成后按一下Esc鍵然后按一下按Shift+:鍵,輸入wq,后回車就可以保存。輸入q!后回車則是放棄保存并退出.

修改文件sshslaves,寫入除主機名之外的所有機器名(如下圖)
命令:
vi /root/DKHPlantform/autossh/sshslaves
通過按鍵盤上的insert或是I鍵進入編輯模式,編輯完成后按一下Esc鍵然后按一下按Shift+:鍵,輸入wq,后回車就可以保存。輸入q!后回車則是放棄保存并退出.

b)執行insExpect.sh,系統會裝兩個rpm包,在執行sshpass.sh的過程中無需再輸密碼和yes,腳本自動繼續執行。
命令:
cd /root/DKHPlantform/autossh
./insExpect.sh
按照提示多次輸入yes和密碼(如下圖)

c)執行changeMaster.sh腳本為了清空/root/.ssh目錄下的所有文件(在/root/DKHPlantform/autossh目錄下),避免在執行sshpass.sh腳本時產生的新密鑰時與舊的密鑰發生沖突。
命令:
./changeMaster.sh
按照提示輸入(如下圖)

(3)執行集群免密(SSH)
a)執行SSH:
命令:

    cd /root/

./sshpass.sh 密碼
123456為集群密碼,根據自己實際情況輸入。

b)防止訪問服務器時某些服務被攔截,需關閉防火墻。
命令:
cd /root/DKHPlantform/autossh
./offIptables.sh

3.安裝雙機熱備份的MySQL
目的:存放Hive的元數據
步驟:
(1)從主節點分發mysql安裝目錄到第二節點
命令:
scp -r /root/DKHPlantform/mysqlInst/ 192.168.1.42:/root/
(2)主節點執行:
命令:
cd /root/DKHPlantform/mysqlInst/
./mysql.sh 1
ssh前往第二臺機器(從節點)并執行:
命令:
cd /root/mysqlInst/
./mysql.sh 2
(3)執行成功之后執行熱備份(兩臺機器上都要執行,兩個ip互換,41上寫42,42上寫41,密碼是Mysql的密碼為:123456。平臺內已經設定好,請勿修改):
命令:
source /etc/profile
./sync.sh 192.168.1.xxx(另一臺mysql地址) root 123456

4.創建數據庫
步驟:
(1)導入MySQL數據表,只在主節點執行:
命令:
mysql -uroot -p123456 < { 此處為sql文件,主目錄下文件: dkh.sql}
如:mysql -uroot -p123456 (2)執行完后查看一下兩臺mysql的數據表是否存在,從節點查看執行:
命令:
mysql -uroot -p123456
show databases;

第三部分:DKH系統安裝
(1)啟動安裝
步驟:執行以下命令。
命令:
cd /root/DKHPlantform/dkh-tomcat-7.0.56/bin/
./startup.sh
(2)登錄
啟動成功后瀏覽器鍵入主節點ip
登陸默認用戶名和密碼:

Username:admin
Password: 123456

后續根據提示安裝
(3)組件安裝路徑

建議采用默認安裝路徑,即/opt/dkh/,注意千萬不要放/root/,不然impala等組件的安裝可能出現問題

第四部分:常見問題解決方法

1、當hdfs的zkfc出現如下問題時,可嘗試以下方法:

(1) 先格式化hadoopzk:hdfs zkfc -formatZK
(2) 啟動zk,sbin下: ./hadoop-daemon.sh start zkfc
(3) 設定失敗轉移的namenode: hdfs haadmin -failover nn1 nn2
2、當hue頁面打不開,顯示如下內容時,說明沒有創建hue數據庫,可在主節點執行此文件,根據提示輸入Y即可

3、當hue頁面打不開,顯示如下內容時,可執行如下命令解決:

cd /opt/dkh/hue-3.12.0/build/env/bin ./hue syncdb 之后輸入no
# ./hue migrate

4、Essql頁面打不開,顯示如下內容時,可通過以下方式解決
(1) 主節點運行命令:source /etc/profile,后重啟Tomcat(注意使用shutdown命令之后,若還存在相關進程,需手動kill掉)適用于環境變量不生效的情況,比如,Java的版本識別的是1.7,而不是1.8;hdfs相關命令不識別等。
(2) 重啟Tomcat,注意使用shutdown命令之后,若還存在相關進程,需手動kill掉適用于啟動了多個Tomcat進程的情況。

文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。

轉載請注明本文地址:http://specialneedsforspecialkids.com/yun/72053.html

相關文章

  • Hadoop新手篇:hadoop入門基礎教程

    摘要:新手篇入門基礎教程關于的分享此前一直都是零零散散的想到什么就寫什么,整體寫的比較亂吧。上兩周寫的五篇內容,匯總到一起就算是新手入門的一個基礎性教程吧持續更新中。應該在改版完成后就可以正常申請下載了。 Hadoop新手篇:hadoop入門基礎教程關于hadoop的分享此前一直都是零零散散的想到什么就寫什么,整體寫的比較亂吧。最近可能還算好的吧,畢竟花了兩周的時間詳細的寫完的了hadoop...

    levinit 評論0 收藏0
  • 實用貼:hadoop系統下載安裝教程

    摘要:實用貼系統下載安裝教程在前幾篇的文章中分別就虛擬系統安裝系統安裝以及運行服務器的設置等內容寫了詳細的操作教程,本篇分享的是的下載安裝步驟。我讓他們去下載安裝試一下,至于后來試沒試就不得而知了。 實用貼:hadoop系統下載安裝教程在前幾篇的文章中分別就虛擬系統安裝、LINUX系統安裝以及hadoop運行服務器的設置等內容寫了詳細的操作教程,本篇分享的是hadoop的下載安裝步驟。在此之...

    BenCHou 評論0 收藏0
  • 超詳細Dkhadoop虛擬機安裝圖文教程

    摘要:超詳細虛擬機安裝圖文教程前兩天看到有人留言問在什么情況下需要部署,我給的回答也很簡單,就是在需要處理海量數據的時候才需要考慮部署。圖圖為虛擬機命名,如下圖,命名按照自己喜歡即可,點擊下一步進行處理器配置。 超詳細Dkhadoop虛擬機安裝圖文教程前兩天看到有人留言問在什么情況下需要部署hadoop,我給的回答也很簡單,就是在需要處理海量數據的時候才需要考慮部署hadoop。關于這個問題...

    ChanceWong 評論0 收藏0
  • hadoop集群管理系統搭建規劃說明

    摘要:集群管理系統搭建規劃說明分布式集群環境搭建是每個入門級新手都非常頭疼的事情,因為你可能花費了很久的時間在搭建運行環境,最終卻不知道什么原因無法創建成功。也是如此,它負責管理集群中的資源和任務調度,你也可以把它視為大數據操作系統。 hadoop集群管理系統搭建規劃說明Hadoop分布式集群環境搭建是每個入門級新手都非常頭疼的事情,因為你可能花費了很久的時間在搭建運行環境,最終卻不知道什么...

    ThreeWords 評論0 收藏0
  • 超詳細hadoop集群服務器安裝配置教程

    摘要:超詳細集群服務器安裝配置教程虛擬機以及系統安裝在之前的兩篇分享中已經詳細的介紹了方法,并且每一步的都配圖了。物理集群三臺及以上實體服務器外網下載模式本地文件模式將安裝包文件直接拷貝到實體服務器目錄下,進行安裝操作即可。 超詳細hadoop集群服務器安裝配置教程虛擬機以及Linux系統安裝在之前的兩篇分享中已經詳細的介紹了方法,并且每一步的都配圖了。如果有朋友還是看不懂,那我也愛莫能助了...

    iamyoung001 評論0 收藏0

發表評論

0條評論

最新活動
閱讀需要支付1元查看
<