Solr集群的搭建以及使用(内涵zookeeper集群的搭建指南)

1   什么是SolrCloud

　　SolrCloud(solr 云)是Solr提供的分布式搜索方案，当你须要大规模，容错，分布式索引和检索能力时使用 SolrCloud。当一个系统的索引数据量少的时候是不须要使用SolrCloud的，当索引量很大，搜索请求并发很高，这时须要使　　用SolrCloud来知足这些需求。

　　SolrCloud是基于Solr和Zookeeper的分布式搜索方案，它的主要思想是使用Zookeeper做为集群的配置信息中心。

　　它有几个特点功能：

　　1）集中式的配置信息

　　2）自动容错

　　3）近实时搜索

　　4）查询时自动负载均衡

1.1  Zookeeper是个什么玩意？

　　顾名思义zookeeper就是动物园管理员，他是用来管hadoop（大象）、Hive(蜜蜂)、pig(小猪)的管理员， Apache Hbase和 Apache Solr 的分布式集群都用到了zookeeper；Zookeeper:是一个分布式的、开源的程序协调服务，是hadoop项目下的一个子项目。

1.2   Zookeeper能够干哪些事情

 

　　1、配置管理

　　在咱们的应用中除了代码外，还有一些就是各类配置。好比数据库链接等。通常咱们都是使用配置文件的方式，在代码中引入这些配置文件。可是当咱们只有一种配置，只有一台服务器，而且不常常修改的时候，使用配置文件是一个很好的作法，可是若是咱们配置很是多，有不少服务器都须要这个配置，并且还多是动态的话使用配置文件就不是个好主意了。这个时候每每须要寻找一种集中管理配置的方法，咱们在这个集中的地方修改了配置，全部对这个配置感兴趣的均可以得到变动。好比咱们能够把配置放在数据库里，而后全部须要配置的服务都去这个数据库读取配置。可是，由于不少服务的正常运行都很是依赖这个配置，因此须要这个集中提供配置服务的服务具有很高的可靠性。通常咱们能够用一个集群来提供这个配置服务，可是用集群提高可靠性，那如何保证配置在集群中的一致性呢？ 这个时候就须要使用一种实现了一致性协议的服务了。Zookeeper就是这种服务，它使用Zab这种一致性协议来提供一致性。如今有不少开源项目使用Zookeeper来维护配置，好比在HBase中，客户端就是链接一个Zookeeper，得到必要的HBase集群的配置信息，而后才能够进一步操做。还有在开源的消息队列Kafka中，也使用Zookeeper来维护broker的信息。在Alibaba开源的SOA框架Dubbo中也普遍的使用Zookeeper管理一些配置来实现服务治理。

　　2、名字服务

　　名字服务这个就很好理解了。好比为了经过网络访问一个系统，咱们得知道对方的IP地址，可是IP地址对人很是不友好，这个时候咱们就须要使用域名来访问。可是计算机是不能是别域名的。怎么办呢？若是咱们每台机器里都备有一份域名到IP地址的映射，这个却是能解决一部分问题，可是若是域名对应的IP发生变化了又该怎么办呢？因而咱们有了DNS这个东西。咱们只须要访问一个你们熟知的(known)的点，它就会告诉你这个域名对应的IP是什么。在咱们的应用中也会存在不少这类问题，特别是在咱们的服务特别多的时候，若是咱们在本地保存服务的地址的时候将很是不方便，可是若是咱们只须要访问一个你们都熟知的访问点，这里提供统一的入口，那么维护起来将方便得多了。

　　3、分布式锁

　　其实在第一篇文章中已经介绍了Zookeeper是一个分布式协调服务。这样咱们就能够利用Zookeeper来协调多个分布式进程之间的活动。好比在一个分布式环境中，为了提升可靠性，咱们的集群的每台服务器上都部署着一样的服务。可是，一件事情若是集群中的每一个服务器都进行的话，那相互之间就要协调，编程起来将很是复杂。而若是咱们只让一个服务进行操做，那又存在单点。一般还有一种作法就是使用分布式锁，在某个时刻只让一个服务去干活，当这台服务出问题的时候锁释放，当即fail over到另外的服务。这在不少分布式系统中都是这么作，这种设计有一个更好听的名字叫Leader Election(leader选举)。好比HBase的Master就是采用这种机制。但要注意的是分布式锁跟同一个进程的锁仍是有区别的，因此使用的时候要比同一个进程里的锁更谨慎的使用。

　　4、集群管理

　　在分布式的集群中，常常会因为各类缘由，好比硬件故障，软件故障，网络问题，有些节点会进进出出。有新的节点加入进来，也有老的节点退出集群。这个时候，集群中其余机器须要感知到这种变化，而后根据这种变化作出对应的决策。好比咱们是一个分布式存储系统，有一个中央控制节点负责存储的分配，当有新的存储进来的时候咱们要根据如今集群目前的状态来分配存储节点。这个时候咱们就须要动态感知到集群目前的状态。还有，好比一个分布式的SOA架构中，服务是一个集群提供的，当消费者访问某个服务时，就须要采用某种机制发现如今有哪些节点能够提供该服务(这也称之为服务发现，好比Alibaba开源的SOA框架Dubbo就采用了Zookeeper做为服务发现的底层机制)。还有开源的Kafka队列就采用了Zookeeper做为Cosnumer的上下线管理。

2   Solr集群的结构

3   Solr集群的搭建

　　本教程的这套安装是单机版的安装，因此采用伪集群的方式进行安装，若是是真正的生产环境，将伪集群的ip改下就能够了，步骤是同样的。

　　SolrCloud结构图以下：

 

　　须要三个zookeeper节点

　　四个solr节点。

 

　　使用伪分布式实现solr集群。须要三个zookeeper实例，4个tomcat实例，能够在一台虚拟机上模拟。建议虚拟机1G以上内存。

4   Zookeeper集群的搭建

4.1   前台条件

三个zookeeper实例。Zookeeper也是java开发的因此须要安装jdk。

一、Linux系统

二、Jdk环境。

三、Zookeeper。

4.2   Zookeeper的安装步骤

第一步：把zookeeper的安装包上传到服务器

第二步：解压缩。

[root@bogon ~]# tar -zxf zookeeper-3.4.6.tar.gz

[root@bogon ~]#

第三步：在/usr/local/目录下建立一个solrcloud目录。把zookeeper解压后的文件夹复制到此目录下三份。分别命名为zookeeper一、二、3

[root@bogon ~]# mkdir /usr/local/solrcloud

[root@bogon ~]# mv zookeeper-3.4.6 /usr/local/solrcloud/zookeeper1

[root@bogon ~]# cd /usr/local/solrcloud

[root@bogon solrcloud]# ll

total 4

drwxr-xr-x. 10 1000 1000 4096 Feb 20  2014 zookeeper1

[root@bogon solrcloud]# cp -r zookeeper1/ zookeeper2

[root@bogon solrcloud]# cp -r zookeeper1/ zookeeper3

[root@bogon solrcloud]#

第四步：配置zookeeper。

一、在每一个zookeeper文件夹下建立一个data目录。

二、在data文件夹下建立一个文件名称为myid，文件的内容就是此zookeeper的编号一、二、3

[root@bogon data]# echo 1 >> myid

[root@bogon data]# ll

total 4

-rw-r--r--. 1 root root 2 Sep 17 23:43 myid

[root@bogon data]# cat myid

1

[root@bogon data]#

 

在zookeeper二、3文件夹下分别建立data目录和myid文件

[root@bogon solrcloud]# mkdir zookeeper2/data

[root@bogon solrcloud]# echo 2 >> zookeeper2/data/myid

[root@bogon solrcloud]# ll zookeeper2/data

total 4

-rw-r--r--. 1 root root 2 Sep 17 23:44 myid

[root@bogon solrcloud]# cat zookeeper2/data/myid

2

[root@bogon solrcloud]# mkdir zookeeper3/data        

[root@bogon solrcloud]# echo 3 >> zookeeper3/data/myid

[root@bogon solrcloud]#

三、把zookeeper1下conf目录下的zoo_sample.cfg文件复制一份更名为zoo.cfg

四、修改zoo.cfg的配置

 

 

第五步：启动zookeeper。进入zookeeper1/bin目录下。

启动zookeeper：./zkServer.sh start

关闭：./zkServer.sh stop

查看状态：./zkServer.sh status

 

[root@bogon solrcloud]# zookeeper1/bin/zkServer.sh status

JMX enabled by default

Using config: /usr/local/solrcloud/zookeeper1/bin/../conf/zoo.cfg

Mode: follower

[root@bogon solrcloud]# zookeeper2/bin/zkServer.sh status

JMX enabled by default

Using config: /usr/local/solrcloud/zookeeper2/bin/../conf/zoo.cfg

Mode: leader

[root@bogon solrcloud]# zookeeper3/bin/zkServer.sh status

JMX enabled by default

Using config: /usr/local/solrcloud/zookeeper3/bin/../conf/zoo.cfg

Mode: follower

[root@bogon solrcloud]#

 

5   Solr实例的搭建

第一步：建立4个tomcat实例，修改其端口。8080-8083

第二步：解压solr-4.10.3.tar.gz压缩包。从压缩包中复制solr.war到tomcat。

第三步：启动tomcat解压war包。把solr-4.10.3目录下example目录下的关于日志相关的jar包添加到solr工程中。

第四步：建立solrhome。修改web.xml指定solrhome的位置。

6   solr集群的搭建

6.1   第一步

把solrhome中的配置文件上传到zookeeper集群。使用zookeeper的客户端上传。

客户端命令位置：/root/solr-4.10.3/example/scripts/cloud-scripts

 

 ./zkcli.sh -zkhost 192.168.25.154:2181,192.168.25.154:2182,192.168.25.154:2183 -cmd upconfig -confdir /usr/local/solrcloud/solrhome1/collection1/conf -confname myconf

 红色字体部分的ip表示zookeeper集群的ip地址以及对应的端口。

 

查看配置文件是否上传成功：

[root@bogon bin]# ./zkCli.sh

Connecting to localhost:2181

[zk: localhost:2181(CONNECTED) 0] ls /

[configs, zookeeper]

[zk: localhost:2181(CONNECTED) 1] ls /configs

[myconf]

[zk: localhost:2181(CONNECTED) 2] ls /configs/myconf

[admin-extra.menu-top.html, currency.xml, protwords.txt, mapping-FoldToASCII.txt, _schema_analysis_synonyms_english.json, _rest_managed.json, solrconfig.xml, _schema_analysis_stopwords_english.json, stopwords.txt, lang, spellings.txt, mapping-ISOLatin1Accent.txt, admin-extra.html, xslt, synonyms.txt, scripts.conf, update-script.js, velocity, elevate.xml, admin-extra.menu-bottom.html, clustering, schema.xml]

[zk: localhost:2181(CONNECTED) 3]

6.2   第二步

修改solrhome下的solr.xml文件，指定当前实例运行的ip地址及端口号。

 

6.3   第三步

修改每一台solr的tomcat 的 bin目录下catalina.sh文件中加入DzkHost指定zookeeper服务器地址：

JAVA_OPTS="-DzkHost=192.168.25.154:2181,192.168.25.154:2182,192.168.25.154:2183"         红色字体的ip表示zookeeper集群的ip以及端口号

（可使用vim的查找功能查找到JAVA_OPTS的定义的位置，而后添加）

 

6.4   第四步

从新启动tomcat

一个主节点多个备份节点，集群只有一片。

6.5   第五步

建立一个两片的collection，每片是一主一备。

 

使用如下命令建立：

http://192.168.25.154:8080/solr/admin/collections?action=CREATE&name=collection2&numShards=2&replicationFactor=2

 

6.6   第六步

删除collection1.

http://192.168.25.154:8080/solr/admin/collections?action=DELETE&name=collection1

7  Solr集群的使用

使用solrj操做集群环境的索引库。

7.1   Solrj测试

 1 public class SolrCloudTest {
 2 
 3     @Test
 4     public void testAddDocument() throws Exception {
 5         //建立一个和solr集群的链接
 6         //参数就是zookeeper的地址列表，使用逗号分隔
 7         String zkHost = "192.168.25.154:2181,192.168.25.154:2182,192.168.25.154:2183";
 8         CloudSolrServer solrServer = new CloudSolrServer(zkHost);
 9         //设置默认的collection
10         solrServer.setDefaultCollection("collection2");
11         //建立一个文档对象
12         SolrInputDocument document = new SolrInputDocument();
13         //向文档中添加域
14         document.addField("id", "test001");
15         document.addField("item_title", "测试商品");
16         //把文档添加到索引库
17         solrServer.add(document);
18         //提交
19         solrServer.commit();
20     }
21     
22     @Test
23     public void deleteDocument() throws SolrServerException, IOException {
24         //建立一个和solr集群的链接
25         //参数就是zookeeper的地址列表，使用逗号分隔
26         String zkHost = "192.168.25.154:2181,192.168.25.154:2182,192.168.25.154:2183";
27         CloudSolrServer solrServer = new CloudSolrServer(zkHost);
28         //设置默认的collection
29         solrServer.setDefaultCollection("collection2");
30         
31         
32         solrServer.deleteByQuery("*:*");
33         solrServer.commit();
34     }
35 }

7.2   Solrj和spring集成

修改spring的配置文件，添加集群版的配置：

1 <!-- 集群版 -->
2     <bean id="cloudSolrServer" class="org.apache.solr.client.solrj.impl.CloudSolrServer">
3         <constructor-arg name="zkHost" value="192.168.25.154:2181,192.168.25.154:2182,192.168.25.154:2183"></constructor-arg>
4         <property name="defaultCollection" value="collection2"></property>
5     </bean>