NodeManager OOM掛掉問題解決

TigerChain 發布于2019-08-14 12:24 / 1867人閱讀

摘要：博客原文在更換到后，集群出現頻繁死掉，出現結果為如下和類似的在搜索關鍵字，找到關于的一些，在負載高的情況下，出現問題。詳情請看和一些相關解釋后來更換則沒出現的問題

博客原文
hackershell

在更換JDK1.625到JDK1.745后，集群出現頻繁死掉NM，出現結果為如下：

2015-08-12 16:35:06,662 FATAL org.apache.hadoop.yarn.YarnUncaughtExceptionHandler: Thread Thread[process reaper,10,system] threw an Error. Shutting down now...
java.lang.OutOfMemoryError: Requested array size exceeds VM limit
at java.lang.UNIXProcess$ProcessPipeInputStream.drainInputStream(UNIXProcess.java:267)
at java.lang.UNIXProcess$ProcessPipeInputStream.processExited(UNIXProcess.java:280)
at java.lang.UNIXProcess.processExited(UNIXProcess.java:187)
at java.lang.UNIXProcess$3.run(UNIXProcess.java:175)
at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1145)
at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:615)
at java.lang.Thread.run(Thread.java:744)

和類似的

2015-08-12 16:37:56,893 FATAL org.apache.hadoop.yarn.YarnUncaughtExceptionHandler: Thread Thread[process reaper,10,system] threw an Error. Shutting down now...
java.lang.OutOfMemoryError: Java heap space
at java.lang.UNIXProcess$ProcessPipeInputStream.drainInputStream(UNIXProcess.java:267)
at java.lang.UNIXProcess$ProcessPipeInputStream.processExited(UNIXProcess.java:280)
at java.lang.UNIXProcess.processExited(UNIXProcess.java:187)
at java.lang.UNIXProcess$3.run(UNIXProcess.java:175)
at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1145)
at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:615)
at java.lang.Thread.run(Thread.java:744)

在google搜索關鍵字hadoop UNIXProcess drainInputStream，找到關于JDK7的一些bug，在NM負載高的情況下，出現OOM問題。詳情請看HADOOP-10146

和一些相關解釋：

JDK-8027348

JDK-8024521

后來更換JDK1.7_67則沒出現OOM的問題

文章版權歸作者所有，未經允許請勿轉載,若此文章存在違規行為，您可以聯系管理員刪除。

轉載請注明本文地址：http://specialneedsforspecialkids.com/yun/64452.html

Hadoop 入門筆記—核心組件 YARN

摘要：主要由兩個組件構成調度器和應用程序管理器，。主要負責該節點內所有容器的生命周期的管理，監視資源和跟蹤節點健康。主要用來處理來自的命令。一個節點啟動時，它會向進行注冊并推送可用資源信息。應用運行結束后，向注銷自己，并允許屬于它的被收回。作者：幻好來源：恒生LIGHT云社區基本概述Apache YARN (Yet...

wanghui 2021-11-22 14:56 評論0 收藏0
Flink 靈魂兩百問，這誰頂得住？

摘要：由于配置流是從關系型數據庫中讀取，速度較慢，導致實時數據流流入數據的時候，配置信息還未發送，這樣會導致有些實時數據讀取不到配置信息。從數據庫中解析出來，再去統計近兩周占比。 Flink 學習 https://github.com/zhisheng17/flink-learning 麻煩路過的各位親給這個項目點個 star，太不易了，寫了這么多，算是對我堅持下來的一種鼓勵吧！ showI...

Guakin_Huang 2019-08-19 10:11 評論0 收藏0