hadoop 高可用 (high availability) 分为 hdfs 高可用和 yarn 高可用,两者的实现基本类似,但 hdfs namenode 对数据存储及其一致性的要求比 yarn resourcemanger 高得多,所以它的实现也更加复杂,故下面先进行讲解:
hdfs 高可用架构如下:
图片引用自:https://www.edureka.co/blog/how-to-set-up-hadoop-cluster-with-hdfs-high-availability/
hdfs 高可用架构主要由以下组件所构成:
目前 hadoop 支持使用 quorum journal manager (qjm) 或 network file system (nfs) 作为共享的存储系统,这里以 qjm 集群为例进行说明:active namenode 首先把 editlog 提交到 journalnode 集群,然后 standby namenode 再从 journalnode 集群定时同步 editlog,当 active namenode 宕机后, standby namenode 在确认元数据完全同步之后就可以对外提供服务。
需要说明的是向 journalnode 集群写入 editlog 是遵循 “过半写入则成功” 的策略,所以你至少要有3个 journalnode 节点,当然你也可以继续增加节点数量,但是应该保证节点总数是奇数。同时如果有 2n+1 台 journalnode,那么根据过半写的原则,最多可以容忍有 n 台 journalnode 节点挂掉。
namenode 实现主备切换的流程下图所示:
healthmonitor 初始化完成之后会启动内部的线程来定时调用对应 namenode 的 haserviceprotocol rpc 接口的方法,对 namenode 的健康状态进行检测。
healthmonitor 如果检测到 namenode 的健康状态发生变化,会回调 zkfailovercontroller 注册的相应方法进行处理。
如果 zkfailovercontroller 判断需要进行主备切换,会首先使用 activestandbyelector 来进行自动的主备选举。
activestandbyelector 与 zookeeper 进行交互完成自动的主备选举。
activestandbyelector 在主备选举完成后,会回调 zkfailovercontroller 的相应方法来通知当前的 namenode 成为主 namenode 或备 namenode。
zkfailovercontroller 调用对应 namenode 的 haserviceprotocol rpc 接口的方法将 namenode 转换为 active 状态或 standby 状态。
yarn resourcemanager 的高可用与 hdfs namenode 的高可用类似,但是 resourcemanager 不像 namenode ,没有那么多的元数据信息需要维护,所以它的状态信息可以直接写到 zookeeper 上,并依赖 zookeeper 来进行主备选举。
按照高可用的设计目标:需要保证至少有两个 namenode (一主一备) 和 两个 resourcemanager (一主一备) ,同时为满足“过半写入则成功”的原则,需要至少要有3个 journalnode 节点。这里使用三台主机进行搭建,集群规划如下:
下载hadoop。这里我下载的是cdh版本hadoop,下载地址为:http://archive.cloudera.com/cdh5/cdh/5/
# tar -zvxf hadoop-2.6.0-cdh5.15.2.tar.gz
编辑profile
文件:
# vim /etc/profile
增加如下配置:
export hadoop_home=/usr/app/hadoop-2.6.0-cdh5.15.2 export path=${hadoop_home}/bin:$path
执行source
命令,使得配置立即生效:
# source /etc/profile
进入${hadoop_home}/etc/hadoop
目录下,修改配置文件。各个配置文件内容如下:
# 指定jdk的安装位置 export java_home=/usr/java/jdk1.8.0_201/
<configuration> <property> <!-- 指定namenode的hdfs协议文件系统的通信地址 --> <name>fs.defaultfs</name> <value>hdfs://hadoop001:8020</value> </property> <property> <!-- 指定hadoop集群存储临时文件的目录 --> <name>hadoop.tmp.dir</name> <value>/home/hadoop/tmp</value> </property> <property> <!-- zookeeper集群的地址 --> <name>ha.zookeeper.quorum</name> <value>hadoop001:2181,hadoop002:2181,hadoop002:2181</value> </property> <property> <!-- zkfc连接到zookeeper超时时长 --> <name>ha.zookeeper.session-timeout.ms</name> <value>10000</value> </property> </configuration>
<configuration> <property> <!-- 指定hdfs副本的数量 --> <name>dfs.replication</name> <value>3</value> </property> <property> <!-- namenode节点数据(即元数据)的存放位置,可以指定多个目录实现容错,多个目录用逗号分隔 --> <name>dfs.namenode.name.dir</name> <value>/home/hadoop/namenode/data</value> </property> <property> <!-- datanode节点数据(即数据块)的存放位置 --> <name>dfs.datanode.data.dir</name> <value>/home/hadoop/datanode/data</value> </property> <property> <!-- 集群服务的逻辑名称 --> <name>dfs.nameservices</name> <value>mycluster</value> </property> <property> <!-- namenode id列表--> <name>dfs.ha.namenodes.mycluster</name> <value>nn1,nn2</value> </property> <property> <!-- nn1的rpc通信地址 --> <name>dfs.namenode.rpc-address.mycluster.nn1</name> <value>hadoop001:8020</value> </property> <property> <!-- nn2的rpc通信地址 --> <name>dfs.namenode.rpc-address.mycluster.nn2</name> <value>hadoop002:8020</value> </property> <property> <!-- nn1的http通信地址 --> <name>dfs.namenode.http-address.mycluster.nn1</name> <value>hadoop001:50070</value> </property> <property> <!-- nn2的http通信地址 --> <name>dfs.namenode.http-address.mycluster.nn2</name> <value>hadoop002:50070</value> </property> <property> <!-- namenode元数据在journalnode上的共享存储目录 --> <name>dfs.namenode.shared.edits.dir</name> <value>qjournal://hadoop001:8485;hadoop002:8485;hadoop003:8485/mycluster</value> </property> <property> <!-- journal edit files的存储目录 --> <name>dfs.journalnode.edits.dir</name> <value>/home/hadoop/journalnode/data</value> </property> <property> <!-- 配置隔离机制,确保在任何给定时间只有一个namenode处于活动状态 --> <name>dfs.ha.fencing.methods</name> <value>sshfence</value> </property> <property> <!-- 使用sshfence机制时需要ssh免密登录 --> <name>dfs.ha.fencing.ssh.private-key-files</name> <value>/root/.ssh/id_rsa</value> </property> <property> <!-- ssh超时时间 --> <name>dfs.ha.fencing.ssh.connect-timeout</name> <value>30000</value> </property> <property> <!-- 访问代理类,用于确定当前处于active状态的namenode --> <name>dfs.client.failover.proxy.provider.mycluster</name> <value>org.apache.hadoop.hdfs.server.namenode.ha.configuredfailoverproxyprovider</value> </property> <property> <!-- 开启故障自动转移 --> <name>dfs.ha.automatic-failover.enabled</name> <value>true</value> </property> </configuration>
<configuration> <property> <!--配置nodemanager上运行的附属服务。需要配置成mapreduce_shuffle后才可以在yarn上运行mapreduce程序。--> <name>yarn.nodemanager.aux-services</name> <value>mapreduce_shuffle</value> </property> <property> <!-- 是否启用日志聚合(可选) --> <name>yarn.log-aggregation-enable</name> <value>true</value> </property> <property> <!-- 聚合日志的保存时间(可选) --> <name>yarn.log-aggregation.retain-seconds</name> <value>86400</value> </property> <property> <!-- 启用rm ha --> <name>yarn.resourcemanager.ha.enabled</name> <value>true</value> </property> <property> <!-- rm集群标识 --> <name>yarn.resourcemanager.cluster-id</name> <value>my-yarn-cluster</value> </property> <property> <!-- rm的逻辑id列表 --> <name>yarn.resourcemanager.ha.rm-ids</name> <value>rm1,rm2</value> </property> <property> <!-- rm1的服务地址 --> <name>yarn.resourcemanager.hostname.rm1</name> <value>hadoop002</value> </property> <property> <!-- rm2的服务地址 --> <name>yarn.resourcemanager.hostname.rm2</name> <value>hadoop003</value> </property> <property> <!-- rm1 web应用程序的地址 --> <name>yarn.resourcemanager.webapp.address.rm1</name> <value>hadoop002:8088</value> </property> <property> <!-- rm2 web应用程序的地址 --> <name>yarn.resourcemanager.webapp.address.rm2</name> <value>hadoop003:8088</value> </property> <property> <!-- zookeeper集群的地址 --> <name>yarn.resourcemanager.zk-address</name> <value>hadoop001:2181,hadoop002:2181,hadoop003:2181</value> </property> <property> <!-- 启用自动恢复 --> <name>yarn.resourcemanager.recovery.enabled</name> <value>true</value> </property> <property> <!-- 用于进行持久化存储的类 --> <name>yarn.resourcemanager.store.class</name> <value>org.apache.hadoop.yarn.server.resourcemanager.recovery.zkrmstatestore</value> </property> </configuration>
<configuration> <property> <!--指定mapreduce作业运行在yarn上--> <name>mapreduce.framework.name</name> <value>yarn</value> </property> </configuration>
配置所有从属节点的主机名或ip地址,每行一个。所有从属节点上的datanode
服务和nodemanager
服务都会被启动。
hadoop001 hadoop002 hadoop003
将hadoop安装包分发到其他两台服务器,分发后建议在这两台服务器上也配置一下hadoop的环境变量。
# 将安装包分发到hadoop002 scp -r /usr/app/hadoop-2.6.0-cdh5.15.2/ hadoop002:/usr/app/ # 将安装包分发到hadoop003 scp -r /usr/app/hadoop-2.6.0-cdh5.15.2/ hadoop003:/usr/app/
分别到三台服务器上启动zookeeper服务:
zkserver.sh start
分别到三台服务器的的${hadoop_home}/sbin
目录下,启动journalnode
进程:
hadoop-daemon.sh start journalnode
在hadop001
上执行namenode
初始化命令:
hdfs namenode -format
执行初始化命令后,需要将namenode
元数据目录的内容,复制到其他未格式化的namenode
上。元数据存储目录就是我们在hdfs-site.xml
中使用dfs.namenode.name.dir
属性指定的目录。这里我们需要将其复制到hadoop002
上:
scp -r /home/hadoop/namenode/data hadoop002:/home/hadoop/namenode/
在任意一台namenode
上使用以下命令来初始化zookeeper中的ha状态:
hdfs zkfc -formatzk
进入到hadoop001
的${hadoop_home}/sbin
目录下,启动hdfs。此时hadoop001
和hadoop002
上的namenode
服务,和三台服务器上的datanode
服务都会被启动:
start-dfs.sh
进入到hadoop002
的${hadoop_home}/sbin
目录下,启动yarn。此时hadoop002
上的resourcemanager
服务,和三台服务器上的nodemanager
服务都会被启动:
start-yarn.sh
需要注意的是,这个时候hadoop003
上的resourcemanager
服务通常是没有启动的,需要手动启动:
yarn-daemon.sh start resourcemanager
成功启动后,每台服务器上的进程应该如下:
[root@hadoop001 sbin]# jps 4512 dfszkfailovercontroller 3714 journalnode 4114 namenode 3668 quorumpeermain 5012 datanode 4639 nodemanager [root@hadoop002 sbin]# jps 4499 resourcemanager 4595 nodemanager 3465 quorumpeermain 3705 namenode 3915 dfszkfailovercontroller 5211 datanode 3533 journalnode [root@hadoop003 sbin]# jps 3491 journalnode 3942 nodemanager 4102 resourcemanager 4201 datanode 3435 quorumpeermain
hdfs和yarn的端口号分别为50070
和8080
,界面应该如下:
此时hadoop001上的namenode
处于可用状态:
而hadoop002上的namenode
则处于备用状态:
hadoop002上的resourcemanager
处于可用状态:
hadoop003上的resourcemanager
则处于备用状态:
同时界面上也有journal manager
的相关信息:
上面的集群初次启动涉及到一些必要初始化操作,所以过程略显繁琐。但是集群一旦搭建好后,想要再次启用它是比较方便的,步骤如下(首选需要确保zookeeper集群已经启动):
在hadoop001
启动 hdfs,此时会启动所有与 hdfs 高可用相关的服务,包括 namenode,datanode 和 journalnode:
start-dfs.sh
在hadoop002
启动yarn:
start-yarn.sh
这个时候hadoop003
上的resourcemanager
服务通常还是没有启动的,需要手动启动:
yarn-daemon.sh start resourcemanager
以上搭建步骤主要参考自官方文档:
关于hadoop高可用原理的详细分析,推荐阅读:
hadoop namenode 高可用 (high availability) 实现解析
更多大数据系列文章可以参见个人 github 开源项目: 大数据入门指南
如对本文有疑问, 点击进行留言回复!!
HBase Filter 过滤器之FamilyFilter详解
去 HBase,Kylin on Parquet 性能表现如何?
如何找到Hive提交的SQL相对应的Yarn程序的applicationId
网友评论