搜索框架ElasticSearch介绍和整合SpringBoot
1 搜索引擎知识和搜索框架elasticsearch基本介绍
1.1前言
mysql:like 模糊,性能问题
solr:针对企业,Lucene
elasticsearch:针对数据量特别大,PB,TB
纯java开发,springboot使用
5.6版本 es升级4->5版本,改动大,但是5版本后,改动不大
1.2 elasticSearch主要特点
1、特点:全文检索,结构化检索,数据统计、分析,接近实时处理,分布式搜索(可部署数百台服务器),处理PB级别的数据搜索纠错,自动完成。
2、使用场景:日志搜索,数据聚合,数据监控,报表统计分析
3、国内外使用者:维基百科,Stack Overflow,GitHub
1.3 新特性讲解
1、6.2.x版本基于Lucene 7.x,更快,性能进一步提升,对应的序列化组件,升级到Jackson 2.8
mysql:database table rocord
es : index type(只能存在一个) document
2、推荐使用5.0版本推出的Java REST/HTTP客户端,依赖少,比Transport使用更方便,在基准测试中,性能并不输于Transport客户端, 在5.0到6.0版本中,每次有对应的API更新, 文档中也说明,推荐使用这种方式进行开发使用,所有可用节点间的负载均衡。在节点故障和特定响应代码的情况下进行故障转移,失败的连接处罚(失败的节点是否重试取决于失败的连续次数;失败的失败次数越多,客户端在再次尝试同一节点之前等待的时间越长)
3、(重要)不再支持一个索引库里面多个type,6.x版本已经禁止一个index里面多个type,所以一个index索引库只能存在1个type。
1.4 官方文档:
1、6.0更新特性
https://www.elastic.co/guide/en/elasticsearch/reference/6.0/release-notes-6.0.0.html#breaking-java-6.0.0
2、6.1更新特性
https://www.elastic.co/guide/en/elasticsearch/reference/6.1/release-notes-6.1.0.html
2、快熟部署ElastcSearch5.6.x
2.1 配置JDK1.8
2.2 使用wget下载elasticsearch安装包并解压
wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-5.6.8.tar.gz
解压:tar -zxvf elasticsearch-5.6.8.tar.gz
官网:https://www.elastic.co/products/elasticsearch
注意:
外网访问时需要修改配置: config目录下面elasticsearch.yml修改为network.host: 0.0.0.0
2.3配置es出现相关问题处理(阿里云、腾讯云,亚马逊云安装问题集合):
1、问题一
Java HotSpot(TM) 64-Bit Server VMwarning: INFO: os::commit_memory(0x00000000c5330000, 986513408, 0) failed;error='Cannot allocate memory' (errno=12)
# There is insufficient memory forthe Java Runtime Environment to continue.
# Native memory allocation (mmap)failed to map 986513408 bytes for committing reserved memory.
# An error report file with moreinformation is saved as:
#/usr/local/software/temp/elasticsearch-6.2.2/hs_err_pid1912.log
解决:内存不够,购买阿里云的机器可以动态增加内存
2、问题二
[root@iZwz95j86y235aroi85ht0Z bin]#./elasticsearch
[2018-02-22T20:14:04,870][WARN][o.e.b.ElasticsearchUncaughtExceptionHandler] [] uncaught exception in thread[main]
org.elasticsearch.bootstrap.StartupException:java.lang.RuntimeException: can not run elasticsearch as root
atorg.elasticsearch.bootstrap.Elasticsearch.init(Elasticsearch.java:125)~[elasticsearch-6.2.2.jar:6.2.2]
atorg.elasticsearch.bootstrap.Elasticsearch.execute(Elasticsearch.java:112)~[elasticsearch-6.2.2.jar:6.2.2]
atorg.elasticsearch.cli.EnvironmentAwareCommand.execute(EnvironmentAwareCommand.java:86)~[elasticsearch-6.2.2.jar:6.2.2]
atorg.elasticsearch.cli.Command.mainWithoutErrorHandling(Command.java:124)~[elasticsearch-cli-6.2.2.jar:6.2.2]
解决:用非root用户添加用户:useradd -m 用户名 然后设置密码 passwd 用户名
3、问题三
./elasticsearch Exception in thread"main" java.nio.file.AccessDeniedException:/usr/local/software/temp/elasticsearch-6.2.2/config/jvm.options
解决:权限不够 chmod 777 -R 当前es目录
常见配置问题资料:https://www.jianshu.com/p/c5d6ec0f35e0
3、ElasticSearch5.6.8测试数据
简介: ElasticSearch5.6.x简单测试
步骤: https://www.elastic.co/guide/en/elasticsearch/reference/5.6/index.html
查看集群状态:localhost:9200/_cat/health?v
查看索引列表:localhost:9200/_cat/indices?v
4、SpringBoot2.x整合elasticsearch5.6.x
4.1整合资料
Spring Data Elasticsearch文档地址
https://docs.spring.io/spring-data/elasticsearch/docs/3.0.6.RELEASE/reference/html/
版本说明:SpringBoot整合elasticsearch
https://github.com/spring-projects/spring-data-elasticsearch/wiki/Spring-Data-Elasticsearch---Spring-Boot---version-matrix
4.2 整合步骤
1、添加maven依赖
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-data-elasticsearch</artifactId>
</dependency>
2.新建实体类 。实体类加上类注解。例如 @Document(indexName ="blog", type = "article")
indexName :DB type:table
3、接口继承ElasticsearchRepository
其中 Acticle为实体类。
在Controller类中可以进行注入,调用相关默认实现方法。
例如:
4、配置文件:
# ELASTICSEARCH (ElasticsearchProperties)
spring.data.elasticsearch.cluster-name=elasticsearch # Elasticsearch clustername.
spring.data.elasticsearch.cluster-nodes=localhost:9300 # Comma-separated listof cluster node addresses.
spring.data.elasticsearch.repositories.enabled=true # Whether to enableElasticsearch repositories.
5、QueryBuilder使用
参考文档: https://www.elastic.co/guide/en/elasticsearch/client/java-api/1.3/query-dsl-queries.html
//单个匹配title 对应实体类中title
QueryBuilder queryBuilder =QueryBuilders.matchQuery("title", "搜");
//搜索全部文档
QueryBuilder queryBuilder = QueryBuilders.matchAllQuery();
参考博客:https://blog.csdn.net/tianyaleixiaowu/article/details/72833940
无聊然后瞎折腾,后续如果工作有用到的话在进一步深入研究。有兴趣的也可以一起探讨下。