solr 的使用及安装

注本文以solr3.3为例

Solr 简介

  Solr 是一个开源的企业级搜索服务器,底层使用易于扩展和修改的Java 来实现。
       Solr 主要特性有:强大的全文检索功能,高亮显示检索结果,动态集群,数据库接口和电子文档(Word ,PDF 等)的处理。而且Solr 具有高度的可扩展,支持分布搜索和索引的复制。
       Solr 底层的核心技术是使用Apache Lucene 来实现的,简单的说Solr 是Lucene 的服务器化。需要注意的是Solr 并不是简单的对Lucene 进行封装,它所提供的大部分功能都区别于Lucene 。

==================================================

WINDOWS/linux SOLR安装

【linux参考】:http://sinykk.iteye.com/admin/blogs/1171098

【windows如下】

==================================================

环境参数:

Tomcat 7
Solr apache-solr-3.3.0
Jdk 1.6
Windows

搭建步骤:

1. 下载所需软件,安装配置Tomcat。

下载软件为 :Tomcat与Solr,jdk1.6,官网都可免费下载。

2. Tomcat 配置文件conf\server.xml

添加编码的配置 URIEncoding="UTF-8" (如不添加,中文检索时因为乱码搜索不到)。
添加后为:
<Connector port="8983" protocol="HTTP/1.1" connectionTimeout="20000"
           redirectPort="8443" URIEncoding="UTF-8" />

4. 将D:\solr\apache-solr-3.3.0 解压

5. 建立d:/solr/home主目录(可以根据自己的情况建立),把D:\solr\apache-solr-3.3.0\example\solr复制到该目录下。

6. 建立solr.home 环境变量:置为 d:/solr/home

7. 将solr.War复制到tomcat的webapp下启动是会自动解压。

8. 修改D:\resouce\java\tomcat\webapps\solr\WEB-INF\web.xml.

    <env-entry>
       <env-entry-name>solr/home</env-entry-name>
       <env-entry-value>d:\solr\home</env-entry-value>
       <env-entry-type>java.lang.String</env-entry-type>
</env-entry>
9. 启动tomcat,浏览器输入:http://localhost:8080/solr/
10.看到页面说明部署成功

==================================================

solr 将MYSQL数据库做成索引数据源【注意格式】

参考:http://digitalpbk.com/apachesolr/apache-solr-mysql-sample-data-config

==================================================

1、在solrconfig.xml中添加,增加导入数据功能

<requestHandler name="/dataimport" class="org.apache.solr.handler.dataimport.DataImportHandler">   
		  <lst name="defaults">   
			   <str name="config">data-config.xml</str>   
		  </lst>   
</requestHandler>

2、添加一个数据源data-config.xml,代码如下

<dataConfig>
    <dataSource type="JdbcDataSource"
   driver="com.mysql.jdbc.Driver"
   url="jdbc:mysql://localhost/test"
   user="root"
   password=""/>
    <document name="content">
        <entity name="node" query="select id,name,title from solrdb">
            <field column="nid" name="id" />
            <field column="name" name="name" />
            <field column="title" name="title" />
        </entity>
    </document>
</dataConfig>
 

3、创建schema.xml语法,代码如下

<?xml version="1.0" encoding="UTF-8" ?>
<schema name="example" version="1.4">
  <types>    
     <fieldType name="tint" class="solr.TrieIntField" precisionStep="8" omitNorms="true" positionIncrementGap="0"/>

     <fieldType name="string" class="solr.StrField" sortMissingLast="true" omitNorms="true"/>

     <fieldType name="text" class="solr.TextField" positionIncrementGap="100">
      <analyzer type="index">
        <tokenizer class="solr.StandardTokenizerFactory"/>
        <filter class="solr.StopFilterFactory" ignoreCase="true" words="stopwords.txt" enablePositionIncrements="true" />
        <filter class="solr.LowerCaseFilterFactory"/>
      </analyzer>
      <analyzer type="query">
        <tokenizer class="solr.StandardTokenizerFactory"/>
        <filter class="solr.StopFilterFactory" ignoreCase="true" words="stopwords.txt" enablePositionIncrements="true" />
        <filter class="solr.SynonymFilterFactory" synonyms="synonyms.txt" ignoreCase="true" expand="true"/>
        <filter class="solr.LowerCaseFilterFactory"/>
      </analyzer>
    </fieldType>

     <fieldType name="date" class="solr.TrieDateField" omitNorms="true" precisionStep="0" positionIncrementGap="0"/>  
</types>


 <fields>
   <field name="id" type="string" indexed="true" stored="true" required="true" /> 
   <field name="title" type="string" indexed="true" stored="true"/>
   <field name="contents" type="text" indexed="true" stored="true"/>
 </fields>

 <uniqueKey>id</uniqueKey>
 <defaultSearchField>contents</defaultSearchField>
 <solrQueryParser defaultOperator="OR"/>
<copyField source="title" dest="contents"/>

</schema>

schema.xml 里重要的字段

要有这个copyField字段SOLR才能检索多个字段的值【以下设置将同时搜索 title,name,contents中的值】
<defaultSearchField>contents</defaultSearchField>
copyField是用來複製你一個欄位裡的值到另一欄位用. 如你可以將name裡的東西copy到default裡, 這樣solr做檢索時也會檢索到name裡的東西.
<copyField source="name" dest="contents"/>
<copyField source="title" dest="contents"/>

4、创建索引

http://192.168.171.129:8983/solr/dataimport?command=full-import

注:保证与数据库连接正确

==================================================

solr 创建增量索引

主要是修改data-config.xml 数据源

==================================================

<dataConfig>
    <dataSource driver="com.mysql.jdbc.Driver" url="jdbc:mysql://localhost/demo" user="root" password=""/>
    <document name="products">
       <entity name="item" pk="id"
          query="SELECT id,title,contents,last_index_time FROM solr_articles"
          deltaImportQuery="SELECT id,title,contents,last_index_time FROM solr_articles
            WHERE id = '${dataimporter.delta.id}'"
          deltaQuery="SELECT id FROM solr_articles
            WHERE last_index_time > '${dataimporter.last_index_time}'">
        </entity>
    </document>
</dataConfig>
 

注意数据库相关表的创建

如本例中 solr_articles表中有 last_index_time(timestamp)字段,每当增加或者更新了值都应修改last_index_time的值,以便增量索引能更新到

有问题请即时查看TOMCAT的LOG日志文件

运行:http://192.168.171.129:8983/solr/dataimport?command=delta-import

如果运行后未达到你的预期,请查看dataimport.properties文件的日期,并组合新SQL语句查询来调整问题

==================================================

multiple core(SOLR多个索引共存)

参考:http://wiki.apache.org/solr/CoreAdmin

==================================================

1、配置多个索引

<solr persistent="true" sharedLib="lib">
 <cores adminPath="/admin/cores">
  <core name="core0" instanceDir="core0" dataDir="D:\solr\home\core0\data"/>
  <core name="core1" instanceDir="core1" dataDir="D:\solr\home\core1\data" />
 </cores>
</solr>
 

2、将D:\solr\apache-solr-3.3.0\example\multicore下的 core0,core1两个文件拷贝到D:\solr\home下,D:\solr\home目录下之前的任务目录及文件不变

注:D:\solr\home目录为D:\solr\apache-solr-3.3.0\example\solr


3、建立两个索引数据存放目录
D:\solr\home\core0\data
D:\solr\home\core1\data

4、修改其中一个索引如CORE1
修改solrconfig.xml为如下代码
【注 需要加入 lib 标签主要是因为DataImportHandler 为报错,这可能是官方的BUG】

<?xml version="1.0" encoding="UTF-8" ?>
<config>
  <luceneMatchVersion>LUCENE_33</luceneMatchVersion>
  <directoryFactory name="DirectoryFactory" class="${solr.directoryFactory:solr.StandardDirectoryFactory}"/>

  <lib dir="D:/solr/apache-solr-3.3.0/contrib/extraction/lib" />
  <lib dir="D:/solr/apache-solr-3.3.0/dist/" regex="apache-solr-cell-\d.*\.jar" />
  <lib dir="D:/solr/apache-solr-3.3.0/dist/" regex="apache-solr-clustering-\d.*\.jar" />
  <lib dir="D:/solr/apache-solr-3.3.0/dist/" regex="apache-solr-dataimporthandler-\d.*\.jar" />
  <lib dir="D:/solr/apache-solr-3.3.0/contrib/clustering/lib/" />
  <lib dir="/total/crap/dir/ignored" /> 
  <updateHandler class="solr.DirectUpdateHandler2" />

  <requestDispatcher handleSelect="true" >
    <requestParsers enableRemoteStreaming="false" multipartUploadLimitInKB="2048" />
  </requestDispatcher>
  
  <requestHandler name="standard" class="solr.StandardRequestHandler" default="true" />
  <requestHandler name="/update" class="solr.XmlUpdateRequestHandler" />
  <requestHandler name="/admin/" class="org.apache.solr.handler.admin.AdminHandlers" />
  <admin>
    <defaultQuery>solr</defaultQuery>
  </admin>
<requestHandler name="/dataimport" class="org.apache.solr.handler.dataimport.DataImportHandler">   
		  <lst name="defaults">   
			   <str name="config">data-config.xml</str>   
		  </lst>   
</requestHandler>
</config>
 

最后运行 http://localhost:8080/solr/core1/admin/

==================================================

定时更新SOLR索引

因SOLR的索引更新是经过HTTP的,所以不能直接使用CRON,现在我们换一种方式

将要访问的HTTP写入到PHP文件中,经过定时运行PHP文件来达到更新SORL索引目录

10/* * * * * /usr/local/php/bin/php /yym/cronfile/solr_cron.php?t=index_delta


==================================================

/*
 * Created on 2011-9-15
 * @author tianyongchun
 * 此文件用于定时更新SOLR的索引
 * @param t为更新类型 带不同的参考更新不同的索引
 * 
 * 此文件可以通过LINUX的CRON方法运行以便达到定时更新索引
 */
 set_time_limit(0);
 /**
  * 
  * 增量更新
  * index_delta
  * 全更新
  * index_full
  * 
  * 
  */
 $t = $_GET['t'];
 //http://192.168.171.129:8983/solr/dataimport?command=delta-import
 $url = 'http://localhost:8983/solr/dataimport?command=';
 $r = 'result error';
 if($t =='index_delta'){
 	$r = file_get_contents($url.'delta-import');
 }else if($t =="index_full"){
 	$r = file_get_contents($url.'full-import');
 }else{
 	echo 'param error';
 }
 var_dump($r);
?>
 

==================================================

solr 的PHP客户端

solr-php-client

==================================================

从名字就可以看出,这是 Solr 的 PHP 客户端开发包。
通过这个包可以像
http://code.google.com/p/solr-php-client/downloads/list

==================================================

常见错误 org.apache.solr.common.SolrException: Error loading class 'org.apache.solr.handler.dataimport.DataImportHandler
==================================================
将solrconfig.xml中的值改为如下:【主要是指定SOLR的主目录路径出错】

  <lib dir="D:/solr/apache-solr-3.3.0/contrib/extraction/lib" />
  <!-- When a regex is specified in addition to a directory, only the
       files in that directory which completely match the regex
       (anchored on both ends) will be included.
    -->
  <lib dir="D:/solr/apache-solr-3.3.0/dist/" regex="apache-solr-cell-\d.*\.jar" />
  <lib dir="D:/solr/apache-solr-3.3.0/dist/" regex="apache-solr-clustering-\d.*\.jar" />
  <lib dir="D:/solr/apache-solr-3.3.0/dist/" regex="apache-solr-dataimporthandler-\d.*\.jar" />

  <!-- If a dir option (with or without a regex) is used and nothing
       is found that matches, it will be ignored
    -->
  <lib dir="D:/solr/apache-solr-3.3.0/contrib/clustering/lib/" />


-----------------------------
   
I experienced the same issue. With Solr 1.x, I was copying out the
'example' directory to make my solr installation. However, for the
Solr 3.x distributions, the DataImportHandler class exists in a
directory that is at the same level as example: "dist", not a
directory within.

You'll either want to take the entire apache 3.1 directory, or modify
solrconfig to point to the new place you've copied it:

  <lib dir="../../dist/" regex="apache-solr-dataimporthandler-\d.*\.jar" />

==================================================

solr搜索不出数据

==================================================



SELECT id,title,main_contents as contents,last_index_time FROM solr_articles
要使用<field column="NAME" name="name" />最好将schema.xml中通过field配置相应的名字

==================================================

solr 分布式(复制)配置

参考:http://hi.baidu.com/648636045/blog/item/3985aaf1f8f150d00a46e080.html

==================================================

猜你喜欢

转载自sinykk.iteye.com/blog/1168272