Hadoop生态系统、Hadoop虚拟机环境、Hadoop环境搭建及安装（含安装包与教程）

hadoop视频讲解:https://www.cniao5.com/course/10244

1.1Hadoop简介

1.1.1Hadoop的诞生

Hadoop是由Apache Lucene创始人Doug Cutting建立的。它起源于开源搜索引擎Apache Nutch。Nutch项目开始于2002年，是一个能够运行的网页爬取工具和搜索引擎系统，可是这个系统没法解决数十亿的搜索问题。

三篇划时代论文的诞生对Hadoop的诞生起到了决定性做用。

第一篇论文：GFS

2003年谷歌发表了 “The Google File System（谷歌文件系统，简称GFS）”的论文，GFS的架构可以知足在网页爬取和索引过程当中产生的超大文件的存储需求。因而，在2004年Nutch团队开始作GFS的开源版本实现，也就是Nutch分布式文件系统（NDFS）。

第二篇论文：MapReduce

2004年谷歌发表了“MapReduce：Simplified Data Processing on Large Cluster（大型集群的数据简化处理）”的论文。2005年，Nutch团队在Nutch上实现了MapReduce。

2006年2月，Nutch开发人员将NDFS和MapReduce移除Nutch造成一个独立的项目，命名为Hadoop。这个名字不是缩写，是生造出来的。

第三篇：BigTable

2006年谷歌发表了“BigTable：A Distributed Storage System for Structured Data（一个结构化数据的分布式存储系统）”的论文。Powerset公司根据BigTable的思想，发起了HBase，即Hadoop Database。

1.1.2Hadoop重要里程碑

2008年1月，Hadoop成为Apache的顶级项目。背后主要的公司为雅虎，主要用Hadoop来支撑雅虎的搜索引擎系统。

2013年 Hadoop 2.0发布
2017年 Hadoop 3.0 发布

1.1.3Hadoop主要发行版本

Apache Hadoop原始版本
Cloudera版本（Cloudera’s Distribution Including Apache Hadoop，简称“CDH”）
Hortonworks版本（Hortonworks Data Platform，简称“HDP”）
MapR
此外，还有一些其余的发行版，如华为、Intel等。

1.2Hadoop生态系统

Hadoop从最开始的HDFS和MapReduce发展至今，已经造成一个庞大的生态系统。主要包括：
HDFS：分布式文件系统
YARN：资源管理与调度系统
MapReduce：分布式处理框架
Pig、Hive：类SQL的数据查询
Mahout、Spark MLib：机器学习库
HBase：分布式列数据库
Zookeeper：集群管理
Oozie：任务调度
Flume、Sqoop：数据导入导出
Solr&Lucene：搜索与索引
Ambari：集群监控与维护

Hadoop生态系统

参考：

[1] <u>https://www.edureka.co/blog/hadoop-ecosystem</u>

[2] <u>https://data-flair.training/blogs/hadoop-ecosystem-components/</u>

1.3Hadoop主要模块

1.3.1Hadoop Common

为其余Hadoop模块提供基础支持，能够看作是一个公共库。

1.3.2HDFS

高吞吐量、高可用的分布式文件系统。

HDFS架构图

图片来源： <u>http://hadoop.apache.org/docs/r2.7.7/hadoop-project-dist/hadoop-hdfs/HdfsDesign.html</u>

HDSF集群有两类节点，以管理节点(NameNode)-工做节点(DataNode)模式运行。

1.3.2.1 NameNode

管理文件系统的命名空间，维护着文件系统树上及整棵树内全部的文件和目录。

1.3.2.2DataNode

文件系统的工做节点，负责存储和检索数据，并将存储的块的列表按期发送给NameNode管理节点。

1.3.2.3 ondaryNameNode**

也叫辅助NameNode，主要做用就是按期合并编辑日志与命名空间镜像，以防止编辑日志过大。

1.3.2.4 YARN

集群资源管理与任务调度框架

YARN架构图

图片来源：<u>http://hadoop.apache.org/docs/r2.7.6/hadoop-yarn/hadoop-yarn-site/YARN.html</u>

YARN也包含两个核心服务：资源管理器(ResourceManager)和节点管理器(NodeManager)。

1.3.3.1 ResourceManager

管理集群上资源的使用

1.3.3.2 NodeManager

运行在集群中全部节点上并启动和监控容器。

1.3.4 MapReduce

大数据并行处理框架

1.4 虚拟机环境准备

1.4.1 基础软件准备

基础软件主要包括：

连接：pan.baidu.com/s/1qQxIoR98… 提取码：wayj

1.4.2 操做系统安装

参见Linux基础视频课程:www.cniao5.com/course/1024…

1.5 Hadoop环境搭建

[1] <u>http://dicoding.site/archives/388</u> 伪分布式安装

[2] <u>http://dicoding.site/archives/209</u> 分布式安装

1.5.1 Hadoop安装包

这里采用Hadoop2.7.7 版本，能够在官网<u>http://mirrors.shu.edu.cn/apache/hadoop/common/hadoop-2.7.7/hadoop-2.7.7.tar.gz</u> 或者个人百度网盘：pan.baidu.com/s/1qQxIoR98… 提取码：wayj

1.5.2 核心配置文件

Hadoop主要有四个核心配置文件，以下：

n core-site.xml：配置通用属性

n hdfs-site.xml：配置HDFS的属性

n mapred-site.xml：配置MapReduce的属性

n yarn-site.xml：配置YARN的属性

以上关于hadoop的视频讲解:https://www.cniao5.com/course/lessons/10244