Hadoop生态圈
1.什么是Hadoop？
- Hadoop是由Apache基金会所开发的分布式系统架构。
- 主要解决，海量数据的存储和海量数据的分析计算问题
- 广义上来说，Hadoop通常是指一个更加广泛的概念——Hadoop生态圈
2.Hadoop有那些优势？
- 高可靠性：Hadoop底层维护多个数据副本，所以即使Hadoop某个计算元素或储存出现故障，也不会导致数据的丢失。
- 高扩展性：在集群间分配任务数据，可方便的扩展数以千计的节点
- 高效性：在MapReduce的思想下，Hadoop是并行工作的，以加快任务处理速度。
- 高容错性：能够自动将失败的任务重新分配。
3. Hadoop的组成是什么？（面试重点）
- 在Hadoop1.x时代，Hadoop中的MapReduce同时处理业务逻辑运算和资源的调度，耦合性较大。
- 在Hadoop2.x时代，增加了Yarn。Yarn只负责资源的调度，MapReduce只负责运算。
- Hadoop3.x在组成上没有什么变化。
4.HDFS架构概述
Hadoop Distributed File System，简称HDFS，是一个分布式文件系统
- NameNode（nn）：储存文件的元数据，如文件名，文件目录结构，文件属性（生成时间，副本数，文件权限，以及每个文件的块列表和块所在的DataNode等。
- DataNode（dn）：在本地文件系统储存文件块数据，以及块数据的校验和。
- Secondary NameNode（2nn）：每隔一段时间对NameNode元数据备份
5.YARN架构概述
YetAnother Resource Negotiator 简称YARN，另一种资源协调者，是Hadoop的资源管理器。
- ResourceManager（RM）：整个集群资源的老大（内存、CPU等）
- NodeManager（NM）：单个节点服务器资源的老大
- ApplicationMaster（AM）：单个任务运行的老大
- Container：容器，相当于一台独立的服务器，里面封装来任务运行所需的资源，如内存，CPU，磁盘，网络等。
说明：
6.MapReduce架构概述
MapReduce将计算过程分为两个阶段：Map和Reduce
- Map阶段并行处理输入数据
- Reduce阶段对Map结果进行汇总
7.HDFS、YARN、MapReduce三者关系图
8.常见面试题
本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系:hwhale#tublm.com(使用前将#替换为@)
