当前位置： 移动技术网 > 网络运营>服务器>Linux > 【HDFS篇14】HA高可用 --- Federation架构设

【HDFS篇14】HA高可用 --- Federation架构设

2020年07月17日  | 移动技术网网络运营  | 我要评论

心累的时候不妨停下来休息一下，好好收拾一下情绪在继续前进

Federation架构设计

1. NameNode架构的局限性

（1）Namespace（命名空间）的限制

​ 由于NameNode在内存中存储所有的元数据（metadata），因此单个NameNode所能存储的对象（文件+块）数目受到NameNode所在JVM的heap size的限制。50G的heap能够存储20亿（200million）个对象，这20亿个对象支持4000个DataNode，12PB的存储（假设文件平均大小为40MB）。随着数据的飞速增长，存储的需求也随之增长。单个DataNode从4T增长到36T，集群的尺寸增长到8000个DataNode。存储的需求从12PB增长到大于100PB。

（2）隔离问题

由于HDFS仅有一个NameNode，无法隔离各个程序，因此HDFS上的一个实验程序就很有可能影响整个HDFS上运行的程序。

（3）性能的瓶颈

​ 由于是单个NameNode的HDFS架构，因此整个HDFS文件系统的吞吐量受限于单个NameNode的吞吐量。

2.HDFS Federation架构设计

能不能有多个NameNode

NameNode NameNode NameNode
元数据 元数据 元数据
Log machine 电商数据/话单数据

img

3.HDFS Federation应用思考

不同应用可以使用不同NameNode进行数据管理，图片业务、爬虫业务、日志审计业务

Hadoop生态系统中，不同的框架使用不同的NameNode进行管理NameSpace。（隔离性）

但是呢，仅限于超大型公司，超大型数据量使用，中小型公司不用考虑这样的架构，毕竟服务器开销很大

相关资料

image-20200708174358979

本文地址：https://blog.csdn.net/qq_31923871/article/details/107386263

您可能感兴趣的文章:

如对本文有疑问， 点击进行留言回复！！

相关文章:

验证码：
最近更新的文章
大家感兴趣的文章
移动技术网