亲测实用的CDH安装部署--Master

CDH master 安装文档

集群安装的依赖软件

一、JDK的安装包
二、MYSQL的安装包
三、CDH相关安装包
四、虚拟机准备

约定：
1，本教程中的软件版本可能与读者的版本不一致，请注意自行修改
2，针对LINUX系统版本为 Centos 7
3，不要使用拷贝ppt代码，后果自负

JDK的安装

1，查看本地是否存在JDK，执行SHELL命令 java –version

Centos可能包含以下信息
java version "1.7.0_75" OpenJDK Runtime Environment (rhel-2.5.4.2.el7_0-x86_64 u75-b13) OpenJDK 64-Bit Server VM (build 24.75-b04, mixed mode)

2，若是不存在，略过。若是存在须要进行卸载

执行以下：rpm -qa | grep jdk
返回以下：
java-1.7.0-openjdk-1.7.0.75-2.5.4.2.el7_0.x86_64
java-1.7.0-openjdk-headless-1.7.0.75-2.5.4.2.el7_0.x86_64

rpm -e --nodeps 加上返回的结果

3，安装JDK

rpm -ivh jdk-8u101-linux-x64.rpm

修改节点服务器配置

有关配置hostname、selinux关闭，防火墙关闭 hostname修改

1，执行命令以下：vi /etc/sysconfig/network
NETWORKING=yes
HOSTNAME=master

2，执行命令以下：vi /etc/hostname
删除文件内容
输入以下 master

3，修改HOST映射，执行命令以下：vi /etc/hosts
ipDress1 master
ipDress2 slave1
ipDress3 slave2

ipDress1, ipDress2, ipDress3分别为master, slave1, slave2服务器IP地址

修改节点服务器配置

有关配置hostname、selinux关闭，防火墙关闭 hostname修改

4，selinux关闭，执行命令以下：vim /etc/sysconfig/selinux
修改SELINUX=disabled

5, 重启虚拟机，执行命令：reboot

更改防火墙配置
依次执行命令以下：
systemctl stop firewalld
systemctl disable firewalld
systemctl status firewalld
执行完显示以下：
firewalld.service - firewalld - dynamic firewall daemon
Loaded: loaded (/usr/lib/systemd/system/firewalld.service; disabled)
Active: inactive (dead)

安装时间同步服务

为何须要时间同步？思考题

安装步骤以下：
1，执行命令以下：yum -y install ntp
2，安装完成事后执行：vi /etc/ntp.conf

注释掉全部server *.*.*的指向，新添加一条可链接的ntp服务器(百度一下ntp服务器，我选的是上海交大的)
server ntp1.aliyun.com iburst

启动时间同步服务service ntpd start
执行命令 ntpdate -u ntp1.aliyun.com
重启时间同步服务 service ntpd restart
经过ntpstat查看 当前时间同步状态

显示：
synchronised to NTP server (120.25.115.19) at stratum 3
time correct to within 1043 ms
polling server every 64 s

SSH无密码登陆配置

为何须要无密码登录？思考题

依次执行命令以下

ssh-keygen -t rsa 一直使用默认

ssh-copy-id ipDress1
ssh-copy-id ipDress2

ipDress1和ipDress2分别为从节点slave1和slave2的IP地址

安装MYSQL数据库

为何须要MYSQL数据库？思考题

1，查看是否已经安装MYSQL执行命令以下：rpm -qa | grep mariadb
2，若是存在 执行卸载 yum remove mariadb-libs 或者yum remove mariadb
3，安装MYSQL依赖：
yum install -y perl-Module-Install.noarch
yum install -y MySQL-python
4，安装MYSQL
依次执行命令以下：
unzip **.zip
进入解压目录 yum install –y net-tools
rpm -qa | grep mariadb
存在 yum remove mariadb-libs
rpm -ivh **.rpm

配置MYSQL

1，修改配置文件路径：cp /usr/share/mysql/my-default.cnf /etc/my.cnf
2，在配置文件中增长如下配置并保存：vim /etc/my.cnf
default-storage-engine = innodb
innodb_file_per_table
collation-server = utf8_general_ci
init-connect = 'SET NAMES utf8'
character-set-server = utf8
3，初始化数据库执行：/usr/bin/mysql_install_db
4，开启MYSQL服务：service mysql restart
5，查看mysql root初始化密码：cat /root/.mysql_secret
6，登录mysql ： mysql -u root -p
复制root的初始密码
（MYSQL下执行）SET PASSWORD=PASSWORD('123456');

7，（LINUX下执行）开启开机启动：chkconfig mysql on
8，（LINUX下执行）拷贝mysql-connector-java-5.1.25-bin.jar到/usr/share/java/mysql-connector-java.jar (若是不存在，须要建立)

配置MYSQL

9，建立数据库：依次执行命令（MYSQL下执行）
create database hive DEFAULT CHARSET utf8 COLLATE utf8_general_ci;
create database amon DEFAULT CHARSET utf8 COLLATE utf8_general_ci;
create database hue DEFAULT CHARSET utf8 COLLATE utf8_general_ci;
create database monitor DEFAULT CHARSET utf8 COLLATE utf8_general_ci;
create database oozie DEFAULT CHARSET utf8 COLLATE utf8_general_ci;

use mysql;
grant all on *.* to root@'master' Identified by '123456';
flush privileges;

 

重点来啦

安装Cloudera-Manager

1、解压cm tar包到指定目录
mkdir /opt/cloudera-manager
tar -zxvf cloudera-manager-centos7-cm5.11.1_x86_64.tar.gz -C /opt/cloudera-manager
2、建立cloudera-scm用户
useradd --system --home=/opt/cloudera-manager/cm-5.11.1/run/cloudera-scm-server --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm

3、在主节点建立cloudera-manager-server的本地元数据保存目录
mkdir /var/cloudera-scm-server
chown cloudera-scm:cloudera-scm /var/cloudera-scm-server
chown cloudera-scm:cloudera-scm /opt/cloudera-manager
4、配置从节点cloudera-manger-agent指向主节点服务器
vim /opt/cloudera-manager/cm-5.11.1/etc/cloudera-scm-agent/config.ini
将server_host改成CMS所在的主机名即master

主节点中建立parcel-repo仓库目录

一、mkdir -p /opt/cloudera/parcel-repo
二、chown cloudera-scm:cloudera-scm /opt/cloudera/parcel-repo
三、cp CDH-5.11.1-1.cdh5.11.1.p0.4-el7.parcel CDH-5.11.1-1.cdh5.11.1.p0.4-el7.parcel.sha manifest.json /opt/cloudera/parcel-repo
注意：其中CDH-5.11.1-1.cdh5.11.1.p0.18-el5.parcel.sha1 后缀要把1去掉

全部节点建立parcels目录
mkdir -p /opt/cloudera/parcels
chown cloudera-scm:cloudera-scm /opt/cloudera/parcels

解释：Clouder-Manager将CDHs从主节点的/opt/cloudera/parcel-repo目录中抽取出来，分发解压激活到各个节点的/opt/cloudera/parcels目录中

初始脚本配置数据库

执行命令以下：
/opt/cloudera-manager/cm-5.11.1/share/cmf/schema/scm_prepare_database.sh mysql -hmaster -uroot -p123456 --scm-host master scmdbn scmdbu scmdbp

---------------
说明：这个脚本就是用来建立和配置CMS须要的数据库的脚本。各参数是指：
mysql：数据库用的是mysql，若是安装过程当中用的oracle，那么该参数就应该改成oracle。
-hmaster：数据库创建在hadoop1主机上面。也就是主节点上面。
-uroot：root身份运行mysql。-123456：mysql的root密码是***。
--scm-host master：CMS的主机，通常是和mysql安装的主机是在同一个主机上。

最后三个参数是：数据库名，数据库用户名，数据库密码

启动主节点CLOUDERA SCM SERVER

执行命令以下：
cp /opt/cloudera-manager/cm-5.11.1/etc/init.d/cloudera-scm-server /etc/init.d/cloudera-scm-server

修改变量路径
vim /etc/init.d/cloudera-scm-server
将CMF_DEFAULTS=${CMF_DEFAULTS:-/etc/default}改成=/opt/cloudera-manager/cm-5.11.1/etc/default

chkconfig cloudera-scm-server on

启动主节点CLOUDERA SCM SERVER

执行命令以下：
mkdir /opt/cloudera-manager/cm-5.6.0/run/cloudera-scm-agent
cp /opt/cloudera-manager/cm-5.6.0/etc/init.d/cloudera-scm-agent /etc/init.d/cloudera-scm-agent
修改变量路径
vim /etc/init.d/cloudera-scm-agent
将CMF_DEFAULTS=${CMF_DEFAULTS:-/etc/default}改成=/opt/cloudera-manager/cm-5.6.0/etc/default
而后执行
service cloudera-scm-agent start

chkconfig cloudera-scm-agent on
service cloudera-scm-server start

可能会出现:JAVA_HOME is not set异常信息，解决方法 /etc/init.d/cloudera-scm-server 文件中加入配置: export =/opt/jdk

等待SERVER 与 AGENT节点的启动完成

视机器配置的高低影响，启动时间不定。

打开fire fox或者chrome ，输入网址
进入（本身的IP地址）192.168.160.130:7180 默认使用admin admin登陆

恭喜你，成功进入管理页面啦！

 

 下一篇 ：《CDH slave安装》：http://www.javashuo.com/article/p-vklgvqel-bx.html