0533-6.1-如何使用Cloudera Manager啟用YARN的HA

  • 2019 年 11 月 28 日
  • 筆記

溫馨提示:如果使用電腦查看圖片不清晰,可以使用手機打開文章單擊文中的圖片放大查看高清原圖。

Fayson的github: https://github.com/fayson/cdhproject

提示:代碼塊部分可以左右滑動查看噢

1

文檔編寫目的

前面Fayson寫過《6.1-如何使用Cloudera Manager啟用HDFS的HA》,YARN的HA架構和HDFS的HA類似,需要啟動兩個ResourceManager,這兩個ResourceManager會向ZooKeeper集群註冊,通過ZooKeeper管理它們的狀態(Active和Standby)並進行自動故障轉移。本篇文章主要講述如何使用Cloudera Manager啟用YARN的HA。

  • 內容概述

1.啟用YARN HA

2.YARN HA功能可用性測試

  • 測試環境

1.CM和CDH版本為6.1

2.Redhat7.4

3.擁有Cloudera Manager的管理員賬號

4.集群已啟用Kerberos

2

啟用YARN HA

1.使用管理員用戶登錄Cloudera Manager的Web管理界面,進入YARN服務

2.點擊「啟用High Avaiability」,選擇ResourceManager主機

3.點擊「繼續」,啟用ResourceManager HA

4.點擊「完成」,查看YARN服務實例

可以看到YARN的ResourceManager實例為兩個,一個是活動狀態,一個是備用狀態,至此已完成YARN HA的啟用,那麼接下來就測試下YARN HA功能的可用性。

3

Yarn HA功能可用性測試

1.ResourceManager服務狀態

2.向集群提交一個WordCount作業

yarn jar /opt/cloudera/parcels/CDH/lib/hadoop-mapreduce/hadoop-mapreduce-examples.jar wordcount /fayson/hive-test /fayson/out

3.在作業運行期間,將Active狀態的ResourceManager服務kill

4.ResourceManager實例的狀態顯示

5.WordCount作業正常完成

6.Yarn的8088顯示作業成功

可以看到啟用ResourceManager 的HA後,運行的MR作業不會因為ResourceManager其中一個服務掛掉而導致作業退出。

提示:代碼塊部分可以左右滑動查看噢

為天地立心,為生民立命,為往聖繼絕學,為萬世開太平。 溫馨提示:如果使用電腦查看圖片不清晰,可以使用手機打開文章單擊文中的圖片放大查看高清原圖。