使用logstash同步MongoDB数据到es

input{
  mongodb{
        codec => "json"
        uri => 'mongodb://127.0.0.1:27017/kuaibao'
        placeholder_db_dir => '/usr/local/etc/logstash-5.6.0/dbdir'
        placeholder_db_name =>'user.db'
        collection => 'user'
        generateId => 'true'
        parse_method => "simple"
    }
}

filter{
  mutate{remove_field => ["_id"]}
}

output{
 elasticsearch{
  hosts => ["http://127.0.0.1:9200"]
  index => "ordertrance"
  manage_template=>true
  document_type=>"user"
}
stdout {
        codec => json_lines
    }
}

  

配置如上图,遇到一个坑,卡了我两天,我去。。。。javascript

刚开始个人placeholder_db_dir是配置成了/usr/local/etc/logstash-5.6.0,也就是logstash的根目录,谁成想配置成这样竟然很差使,各类百度各类谷歌,明明跟人家的配置都是同样的,个人就是同步不就去es。差点去世,最后鬼使神差的试着修改了一下placeholder_db_dir,竟然能够了,吐血。。。java

 

进行到最后一步,MongoDB自定义主键没法同步,报错MongoDB Input threw an exception, restarting {:exception=>#<BSON::ObjectId::Invalid: 'zj11111111111111111111' is an invalid ObjectId.>}mongodb

百度谷歌无果,准备使用mongo-connector试一下json

相关文章
相关标签/搜索