Kafka 详解(二)------集群搭建

  这里经过 VMware ,咱们安装了三台虚拟机,用来搭建 kafka集群,虚拟机网络地址以下:html

   hostname                      ipaddress                 subnet mask                          geteway    apache

  一、 master     192.168.146.200    255.255.255.0      192.168.146.2网络

  二、 slave1      192.168.146.201    255.255.255.0      192.168.146.2工具

  三、 slave2      192.168.146.202    255.255.255.0      192.168.146.2spa

一、下载 kafka 压缩包

  官网下载地址:http://kafka.apache.org/downloads日志

二、搭建zookeeper集群

  因为 kafka 集群的运行须要 zookeeper,因此咱们要首先进行 zookeeper 集群的搭建。code

  关于搭建的教程,我在上一篇博客已经介绍了:http://www.javashuo.com/article/p-kffgtcjg-cg.htmlserver

三、解压 kafka

  将下载的 kafka 压缩文件上传到集群中的每台机器相应目录,执行以下命令进行解压。htm

tar -zxf kafka_2.12-2.0.0.tgz

四、修改配置文件 server.properties

1 broker.id=0
2 listeners=PLAINTEXT://192.168.146.200:9092
3 zookeeper.connect=192.168.146.200:2181,192.168.146.201:2181,192.168.146.202:2181

  第一个 broker.id 后面的值和搭建 zookeeper 集群中 myid 同样,是一个集群中惟一的数,要求是正数。须要保证kafka集群中设置的都不同。blog

  第二个设置监听器,后面的 IP 地址对应当前的 ip 地址。

  第三个是配置 zookeeper 集群的 IP 地址。

  该配置文件的其他设置能够默认,具体会在后面博客进行介绍。

五、启动 kafka

/usr/local/software/kafka_2.12-2.0.0/bin/kafka-server-start.sh /usr/local/software/kafka_2.12-2.0.0/config/server.properties &

  该命令虽然是后台启动服务,可是日志仍然会打印到控制台。

  想要彻底后台启动,执行以下命令:

/usr/local/software/kafka_2.12-2.0.0/bin/kafka-server-start.sh /usr/local/software/kafka_2.12-2.0.0/config/server.properties 1>/dev/null 2>&1 &

  其中1>/dev/null  2>&1 是将命令产生的输入和错误都输入到空设备,也就是不输出的意思。/dev/null表明空设备。

  执行完毕后,输入 jps ,出现 kafka 的进程,则证实启动成功。

  

六、建立 topic

  集群启动成功后,咱们经过建立一个名字为 test,partitions为3,replication为3的topic。

  进入到bin 目录下,执行以下命令:

./kafka-topics.sh --create --zookeeper 192.168.146.200:2181,192.168.146.201:2181,192.168.146.202:2181 --partitions 3 --replication-factor 3 --topic test

七、向 topic 发送消息

  进入到 bin 目录下,执行以下命令:

./kafka-console-producer.sh --broker-list 192.168.146.200:9092,192.168.146.201:9092,192.168.146.202:9092 --topic test

  

  输入 hello kafka ,而后 enter 键,即向名为 test 的topic 发送了一条消息:hello kafka

八、kafka 可视化工具

  为了更好的看到上一步建立的 topic,以及发送的消息。这里介绍一个 kafka 可视化工具——Kafka Tools,官网下载地址:http://www.kafkatool.com/download.html

  安装过程很简单,都是点击下一步便可。而后打开该工具,进行以下配置:

  点击 File ---> Add cluster

  

  而后点击有下家的 Add 按钮便可。

  点开刚刚建立的链接,出现以下界面:

  

 

   test 即是咱们上一步建立的 topic 名称,里面有一条消息 hello kafka。

相关文章
相关标签/搜索