Hbase到Solr数据同步及Solr分离实战

1. 原由

• 因为历史缘由，公司的数据是持久化在HBase中，查询是经过Solr来实现，这这样的设计必然涉及到要把Hbase中的数据实时同步到Solr，但全部的服务都在一个同一个集群及每台机子都安装了不少不一样的服务，致使数据常常丢失，Solr分片也常常在Recovering、Down 状态中游离，所以决定把Solr剥离出来，造成单独的集群，给其它服务减压。

2. 要求

• 保证数据不能丢失
• 切换期间业务能正常使用
• 切换失败，能够回归到旧的集群

3. 总体流程设计

• HBase Indexer 要同时往新旧集群同步数据，保证Hbase中的新加数据及时更新

4. 实施步骤

• 新集群操做

1. 在新Solr集群配置Host以下:

vim /etc/hosts
        172.16.213.8    solrmaster      s27
        172.16.213.12   solrslave1      ss1
        172.16.213.13   solrslave2      ss2
        172.16.213.9    solrslave3      ss3
        172.16.213.10   solrslave4      ss4
        172.16.213.14   solrslave5      ss5
        172.16.213.11   solrslave6      ss6

2. 新建 Collection

./solr create_collection -c collection_coupon -n collection_coupon -shards 6 -replicationFactor 3 
-d /opt/lucidworks-hdpsearch/solr/server/solr/configsets/coupon_schema_configs/conf

能够经过scp把旧的配置的配置文件拷贝到新集群，保证配置一致，以避免出现莫名的错误。

• 旧集群操做

1. 把新的集群配置到Host文件，千万记住集群中的每台服务器都须要配置，否则在同步的过程当中，会出现不能解析的状况。
2. 在Hbase Index 的安装服务器上添加新的Index任务，用来同步数据到旧的集群

./hbase-indexer add-indexer -n indexer_coupon_solr -c /opt/lucidworks-hdpsearch/hbase-indexer/demo/coupon_indexer_mapper.xml 
-cp solr.zk=solrslave1:2181,solrslave2:2181,solrslave3:2181,solrslave4:2181,solrslave5:2181,solrslave6:2181/solr -cp solr.collection=collection_coupon

这里要注意solr.zk 的设置，必定要设置为新加入solr集群的zk

3. 检查新加入的任务是否为启动状态

./hbase-indexer list-indexers

remote_indexer_coupon
  + Lifecycle state: ACTIVE
  + Incremental indexing state: SUBSCRIBE_AND_CONSUME
  + Batch indexing state: INACTIVE
  + SEP subscription ID: Indexer_remote_indexer_coupon
  + SEP subscription timestamp: 2018-05-07T18:04:28.434+08:00
  + Connection type: solr
  + Connection params:
    + solr.zk = solrslave1:2181,solrslave2:2181,solrslave3:2181,solrslave4:2181,solrslave5:2181,solrslave6:2181/solr
    + solr.collection = collection_coupon
  + Indexer config:
      940 bytes, use -dump to see content
  + Indexer component factory: com.ngdata.hbaseindexer.conf.DefaultIndexerComponentFactory
  + Additional batch index CLI arguments:
      (none)
  + Default additional batch index CLI arguments:
      (none)
  + Processes
    + 1 running processes
    + 0 failed processes

在Processes中，关键是否有1个任务是否正在运行，若是没有或者失败，检查修复

4. 全量同步，因为是新加入的集群，须要第一次作全量同步，而后任务会自动增量同步,执行这个命令须要切换到hdfs用户下。

 su hdfs
    hadoop jar /opt/lucidworks-hdpsearch/hbase-indexer/tools/hbase-indexer-mr-1.6-SNAPSHOT-job.jar 
--conf /opt/lucidworks-hdpsearch/hbase-indexer/conf/hbase-site.xml --hbase-indexer-zk localhost:2181 
--hbase-indexer-name indexer_coupon_solr --reducers 0

注意观察日志信息，若是没有错误，继续下面的操做

5. 观察增量同步，这个须要测试人员或者实施配合下，看是否新旧集群都能正常同步

5. 在整个测试及实施过程遇到的注意事项

1. Hbase Index 只能跟Hbase安装在同一个zk集群下，才能全量、增量同时正常工做
2. 新加入的集群主机名要在旧的集群中的每台服务器上添加
3. 添加新的任务，只须要-cp solr.zk 命令参数修改为新的zk集群便可，其它配置不须要修改
4. 在执行全量同步时--hbase-indexer-zk 只须要设置本机

6. 参考文档

在操做过程当中也能够参考我之前的文章

1. Hbase经常使用操做
2. Solr经常使用操做
3. hbase-index经常使用操做

目前采用这样组合并很少，在整个剥离过程当中遇到的问题能查到的资料并很少，因此决定记录下来，目前新的集群已经正式替换旧的集群，给其它业务减压，同时新的集群功能更单纯，更好扩展。欢迎有这方面的问题的同行一块儿交流。

个人QQ群（码农之家）：53135235