ELK日志分析平台——ElasticSearch性能优化

适当增大分片，可以提升建立索引的能力，5-20个比较合适。如果分片数过少或过多，都会导致检索比较慢。分片数过多，会导致检索时打开文件较多，另外也会导致多台服务器之间通讯，影响效率。
分片数过少会导至单个分片索引过大，所以检索速度慢。
建议单个分片最多存储20G左右的索引数据，通用计算公式：分片数量=数据总量/20G
地址： https://www.elastic.co/guide/en/elasticsearch/reference/current/indice s-create-index.html

ES优化(6) -合理设置副本数

增加副本，可以提升搜索的能力。
如果副本设置过多，会对服务器造成额外的压力，因为主分片需要给所有副本同步数据。另外，副本过多也会占用磁盘空间。
一般建议最多设置2-3个即可
地址： https://www.elastic.co/guide/en/elasticsearch/reference/current/indice s-create-index.html

ES优化(7)-合并索引

定时对索引进行合并优化，segment越多，占用的 segment memory越多，查询的性能也越差。
1）索引量不大的情况下，可以将segment设置为1。
2）在es2.1.0以前调用_optimize接口，后期改为 _forcemerge接口。 curl -u elastic:123456 -XPOST 'http://master:9200/test/_forcemerge?max_num_segment s=1'

ES优化(8) -关闭索引

针对不使用的index，建议close，减少内存占用。
只要索引处于open状态，索引库中的segement就会占用内存，close之后就只会占用磁盘空间不会占用内存。

curl -u elastic:123456 -XPOST 'master:9200/test/_close'

ES优化(9) -清除删除文档

在Lucene中删除文档，数据不会马上在硬盘上清除，而是在lucene索引中产生一个.del的文件，然而在检索过程中这部分数据也会参与检索，lucene在检索过程会判断是否删除，如果已经删除，再过滤掉，这样也会降低检索效率。
可以执行清除删除文档命令： curl -u elastic:123456 -XPOST 'http://master:9200/test/_optimize?only_expunge_deletes =true'

ES优化(10)-合理数据导入

如果在项目开始阶段，需要批量入库大量数据，建议将副本数设置为0。因为es在索引数据的时候，如果副本已经存在，数据会立即同步到副本中，这样会对es增加压力。等到索引完成后，再恢复副本数即可，可以提高索引效率。
curl -XGET http://master:9200/test/_settings?pretty

curl -H "Content-Type:application/json" -XPUT 'http://master:9200/test/_settings' -d '{"index":{"number_of_replicas":0}}'

curl -H "Content-Type:application/json" -XPUT 'http://master:9200/test/_settings' -d '{"index":{"number_of_replicas":1}}'

ES优化(11) -设置索引_all

去掉mapping中_all域，Index中默认会有_all的域，虽然会给查询带来方便，但是会增加索引时间和索引尺寸。

地址： https://www.elastic.co/guide/en/elasticsearch/reference/cu rrent/mapping-all-field.html

ES优化(12) 设置索引_source

_source字段我在们进行检索时相当重要。

ES默认检索只会返回ID，如果在{"enabled":false}情况下，你需通过根据这个ID去去倒排索引中去取每个Field数据，效率不高。而反之，在{"enabled":true}的情况下可以根据 ID直接检索对应source JSON的字段，不用去倒排索引去按Field取数据。

地址： https://www.elastic.co/guide/en/elasticsearch/reference/cu rrent/mapping-source-field.html

ES优化(13) -版本

使用Java代码操作es集群,要保证本地es的版本和集群上 es的版本保持一致。 Ø 保证集群中每个节点的JDK版本和es配置一致。

情绪零碎碎

发布了64 篇原创文章 · 获赞 9 · 访问量 3万+

私信关注