Storm集群的安装配置

  Storm集群的安装分为如下几步:java

  一、首先保证Zookeeper集群服务的正常运行以及必要组件的正确安装web

  二、释放压缩包apache

  三、修改storm.yaml添加集群配置信息vim

  四、使用storm脚本启动相应服务并查看服务状态服务器

  五、经过web查看storm集群的状态oop

 

  安装Storm以前首先保证以前安装的Zookeeper服务正常运行,包括配置hosts映射,主机名修改,防火墙都已经设置无缺测试

  Storm是由java编写,所以必须依赖JDK运行,系统首先应正确安装JDKui

  部分须要依赖Python,红帽系列Linux默认Python版本是2.6.6,能够知足要求;Linux能够安装多个版本Python共存,生产过程当中建议Python版本为2.7.xspa

  这里测试使用的三台虚拟机主机名分别是:hadoopha,hadoop1,hadoop23d

  首先去Apache Storm官网下载安装包,网址是:http://storm.apache.org/,进入后点击上方DOWNLOAD按钮,进入下载列表

  

  这里下载的是storm 0.9.5的版本,下载以后上传到服务器目录下,释放而且放到指定的目录:

$ tar -xvzf apache-storm-0.9.5.tar.gz
$ mv apache-storm-0.9.5 /usr/
$ cd /usr/apache-storm-0.9.5

  接下来须要修改配置文件storm.yaml,执行vim conf/storm.yaml打开文件:

  去掉storm.zookeeper.servers:前面的注释,修改成集群中全部部署zookeeper的主机,固然均可以本身手动添加,具体配置以下:

  

  增长storm.local.dir选项,指定nimbus,supervisor进程用于存储少许的状态数据,好比jar包,配置文件等

  

  待会写好配置文件咱们须要手动创建这个目录

  下面指定supervisor工做节点,须要配置该节点能够运行的worker数量,每一个worker占用一个端口用于接收消息,最多分配5个;默认状况下每一个节点能够运行4个worker,分别在6700、670一、670二、6703端口,这里定义3个端口,表明最多运行3个worker:

  

  下面设置集群主机,让集群中全部的节点能够从主机下载拓扑以及配置文件,主机上运行的就是nimbus,而其余节点就是supervisor进程,这里hadoopha为nimbus,而hadoop1和hadoop2为supervisor,因此配置以下:

  

  下面配置storm集群的drpc地址,这里就是hadoopha,实际中能够本身定义:

  

  最后配置storm进程的分配内存,默认状况下Storm启动worker进程时,JVM的最大内存是768M,因为在使用过程当中,Bolt中加载大量数据,768M内存没法知足要求,会致使内存溢出,应该根据实际状况进行修改,这里设置为2G

  

  以上设置没问题,保存配置文件并退出

  而后在3台主机分别建立上面设置的数据目录,必须都要建立:

mkdir -p /usr/data/storm

  上面的配置是在hadoopha上配置的,接下来要把storm目录发送到hadoop1和hadoop2:

$ scp -r apache-storm-0.9.5 hadoop1:/usr/
$ scp -r apache-storm-0.9.5 hadoop2:/usr/

  发送以后,进入storm安装目录,开始启动相应服务

  首先启动Nimbus服务,只在hadoopha上执行:

nohup bin/storm nimbus >> /dev/null &

  上面命令的意思是丢弃输出信息而且放到后台执行,稍微等一下,执行jps查看nimbus进程是否启动:

  

  而后在hadoop1,hadoop2节点都启动Supervisor服务:

nohup bin/storm supervisor >> /dev/null &

  稍等一下,也能够用jps查看到supervisor进程,

  而后在配置drpc的主机hadoopha,drpc是一种后台服务,用于执行和storm相同的计算,可是比较节省资源,通常和nimbus使用同一台主机便可;执行如下命令启动drpc服务:

nohup bin/storm drpc >> /dev/null &

  稍等一下能够分别经过jps命令查看到drpc进程,

  最后在nimbus节点也就是hadoopha执行如下命令,启动UI服务:

nohup bin/storm ui >> /dev/null &

  经过jps能够查看core进程是否启动,启动以后经过访问hadoopha的ip便可进入web管理界面:http://192.168.1.42:8080

  

  到这里基本的storm集群就配置完毕了

相关文章
相关标签/搜索