kafka链接器

独立模式

bin/connect-standalone.sh config/connect-standalone.properties config/connect-file-source.properties config/connect-file-sink.properties

connect-file-source.properties:vim

name=local-file-source
connector.class=FileStreamSource
tasks.max=1
file=test.txt
topic=connect-test

connect-file-sink.propertiescode

name=local-file-sink
connector.class=FileStreamSink
tasks.max=1
file=test.sink.txt
topics=connect-test

上面命令,建立了两个connect,一个从test.txt读取数据到名为connect-test的topic,另外一个从connect-test读取数据写入到test.sink.txt。其中test.txt和test.sink.txt文件都在kafka的安装目录下kafka

操做

1)先往test.txt中写入数据class

echo 'test' > test.txttest

2)开启connectfile

bin/connect-standalone.sh config/connect-standalone.properties config/connect-file-source.properties config/connect-file-sink.propertiesim

3)这时会发现kafka安装目录下会有个test.sink.txt文件。cat后会看到test.txt的内容已经写入到test.sink.txt中了数据

问题

遇到的几个问题目前不知道是什么缘由,欢迎你们在评论里说明下top

1)若是直接vim test.txt会发现无法将内容传入到topic中文件

2)vim test.txt后,再echo 内容到test.txt也会致使内容没法写入到topic中。须要从新启动connect才行

相关文章
相关标签/搜索