Flume avro client和hdfs sink 完成自定义目录文件收集

准备 背景: 把分散在个边缘Node的访问日志收集到中央节点,而后在作后续的处理。边缘Node(例如hostname为BJ-NODE1) 上的日志每分钟切出来一个文件,经过 Flume avro client 把5分钟粒度内的日志上传到中央节点,生成一个文件,文件名相似 BJ-NODE1_timestamp.log。html 大概的逻辑以下图java avro client D中央 avro cl
相关文章
相关标签/搜索