kafka2.0.0第一课 部署配置启动

1）背景

软件版本2.0.0

        Released July 30, 2018

        Release Notes

        Source download: kafka-2.0.0-src.tgz (asc, sha512)

        Binary downloads:We build for multiple versions of Scala. This only matters if you are using Scala and you want a version      built for the same Scala version you use. Otherwise any version should work (2.11 is recommended).

Scala 2.11  - kafka_2.11-2.0.0.tgz (asc, sha512)

Scala 2.12  - kafka_2.12-2.0.0.tgz (asc, sha512)

软件下载地址    http://kafka.apache.org/downloads.html

下载安装包      kafka_2.11-2.0.0.tgz

2）部署

cd  kafka_2.11-2.0.0

chmod a+x  bin/*  //赋予服务器脚本运行须要的执行权限

vi config/server.properties  //配置服务器的IP地址，若是是默认的localhost只可以在本机器使用，其余的外网连接不上

listeners=PLAINTEXT://192.168.58.121:9092  //修改内容如左

firewall-cmd --zone=public --add-port=9092/tcp --permanent   # 开放9092端口

firewall-cmd --reload   # 配置当即生效

3）启动

bin/zookeeper-server-start.sh config/zookeeper.properties &

bin/kafka-server-start.sh config/server.properties

//另外启动两个控制台程序，做为生成者发送数据

 bin/kafka-console-producer.sh --broker-list 192.168.58.121:9092 --topic test//生产者往主题test发送数据,出现>能够输入发送数据

>

//消费者消费数据

bin/kafka-console-consumer.sh --bootstrap-server 192.168.58.121:9092 --topic test --from-beginning //接收数据

注意：

1）

[2020-05-18 11:52:07,986] WARN [Producer clientId=console-producer] Connection to node 0 could not be established. Broker may not be available. (org.apache.kafka.clients.NetworkClient)

本地环境测试启动生产者说明服务broker没有启动

2）检测服务器是否配置正确的IP地址和开放端口

%3|1589772697.411|FAIL|rdkafka#consumer-1| [thrd:192.168.58.121:9092/bootstrap]: 192.168.58.121:9092/bootstrap: Connect to ipv4#192.168.58.121:9092 failed: 因为链接方在一段时间后没有正确答复或链接的主机没有反应，链接尝试失败。

%3|1589772699.520|ERROR|rdkafka#consumer-1| [thrd:192.168.58.121:9092/bootstrap]: 192.168.58.121:9092/bootstrap: Connect to ipv4#192.168.58.121:9092 failed: 因为链接方在一段时间后没有正确答复或链接的主机没有反应，链接尝试失败。

%3|1589772699.528|ERROR|rdkafka#consumer-1| [thrd:192.168.58.121:9092/bootstrap]: 1/1 brokers are down

3）bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic test --from-beginning

zookeeper is not a recognized option

Kafka 从 2.2 版本开始将 kafka-topic.sh 脚本中的 −−zookeeper 参数标注为 “过期”，推荐使用 −−bootstrap-server 参数。若读者依旧使用的是 2.1 及如下版本，请将下述的 --bootstrap-server 参数及其值手动替换为 --zookeeper zk1:2181,zk2:2181,zk:2181。必定要注意二者参数值所指向的集群地址是不一样的。