ElasticSearch——ElasticSearch和Kibana介绍

1：ElasticSearch

1.1 Doug Cutting工程师介绍

1998年9月4日, Google公司在美国硅谷成立。正如大家所知,它是一家做搜索引擎起家的公司。无独有偶，一位名叫Doug Cutting的美国工程师,也迷上了搜索引擎。**他做了一个用于文本搜索的函数库(姑且理解为软件的功能组件) , 命名为Lucene。**硅谷有了一股用Nutch低成本创业的潮流。(大数据! )随着时间的推移, **无论是Google还是Nutch ,都面临搜索对象”体积”不断增大的问题。尤其是Google ,作为互联网搜索引擎,需要存储大量的网页,并不断优化自己的搜索算法,提升搜索效率。**在这个过程中, Google确实找到了不少好办法,并且无私地分享了出来。开源是一种精神! ( 看到我课程的人)。2003年, Google发表了一篇技术学术论文,公开介绍了自己的谷歌文件系统GFS ( Google File System)。这是Google公司为了存储海量搜索数据而设计的专用文件系统。第二年,也就是2004年, Doug Cutting基于Google的GFS论文,实现了分布式文件存储系统,并将它命名为NDFS ( NutchDistributed File System) 。 Lucene是用JAVA写成的,目标是为各种中小型应用软件加入全文检索功能。因为好用而且开源(代码公开) ,非常受程序员们的欢迎。早期的时候,这个项目被发布在Doug Cutting的个人网站和SourceForge ( 一个开源软件网站)。后来, 2001年底, Lucene成为Apache软件基金会jakarta项目的一个子项目。2004年, Doug Cutting再接再励,在Lucene的基础上,和Apache开源伙伴Mike Cafarella合作,开发了一款可以代替当时的主流搜索的开源搜索引擎,命名为Nutch. Nutch是一个建立在Lucene核心之上的网页搜索应用程序，可以下载下来直接使用。它在Lucene的基础上加了网络爬虫和一些网页。还是2004年, Google又发表了一篇技术学术论文 ,介绍自己的MapReduce编程模型。这个编程模型,用于大规模数据集(大于1TB )的并行分析运算。第二年(2005年) , Doug Cutting又基于MapReduce ,在Nutch搜索引擎实现了该功能。2006年,当时依然很厉害的(雅虎)公司,招安了Doug Cutting。

这里要补充说明一下雅虎招安Doug的背景: 2004年之前,作为互联网开拓者的雅虎,是使用Google搜索引擎作为自家搜索服务的。在2004年开始,雅虎放弃了Google ,开始自己研发搜索引擎。所以。。.
加盟Yahoo之后，Doug Cutting将NDFS和MapReduce进行了升级改造,并重新命名为Hadoop ( NDFS也改名为HDFS , HadoopDistributed File System )。

Hadoop这个名字，实际上是Doug Cutting他儿子的黄色玩具大象的名字。所以，Hadoop的Logo，就是一只奔跑的黄色大象。

我们继续往下说。还是2006年，Google又发论文了。这次，它们介绍了自己的BigTable.这是一种分布式数据存储系统 ，一种用来处理海量数据的非关系型数据库。Doug Cutting当然没有放过，在自己的hadoop系统里面，引入了BigTable，并命名为HBase

所以, Hadoop的核心部分,基本上都有Google的影子。

2008年1月, Hadoop成功上位,正式成为Apache基金会的顶级项目。同年2月, Yahoo宣布建成了一个拥有1万个内核的Hadoop集群,并将自己的搜索引擎产品部署在上面。7月, Hadoop打破世界纪录,成为最快排序1TB数据的系统,用时209秒。

回到主题
Lucene是一套信息检索工具包! jar包! 不包含搜索引擎系统!
包含的:索引结构! 读写索引的工具! 排序,搜索规则…工具类!
Lucene和ElasticSearch关系:
ElasticSearch是基于Lucene做了一些封装和增强(我们上手是十分简单! )

1.2 ElasticSearch介绍

• Elaticsearch ,简称为es , es是一个开源的高扩展的分布式全文检索引擎,它可以近乎实时的存储。检索数据;本身扩展性很好,可以扩展到上百台服务器,处理PB级别的数据。es也使用Java开发并使用Lucene作为其核心来实现所有索引和搜索的功能,但是它的目的是通过简单的RESTful API来隐藏Lucene的复杂性,从而让全文搜索变得简单。

据国际权威的数据库产品评测机构DB Engines的统计,在2016年1月, ElasticSearch已超过Solr等,成为排名第一的搜索引擎类应用。

历史
多年前,一个叫做Shay Banon的刚结婚不久的失业开发者,由于妻子要去伦敦学习厨师,他便跟着也去了。在他找工作的过程中，为了给妻子构建一个食谱的搜索引擎,他开始构建-一个早期版本的Lucene。
直接基于Lucene工作会比较困难,所以Shay开始抽象Lucene代码以便Java程序员可以在应用中添加搜索功能。他发布了他的第一个开源项目,叫做"Compass".
后来Shay找到-份工作,这份工作处在高性能和内存数据网格的分布式环境中,因此高性能的、实时的、分布式的搜索引擎也是理所当然需要的。然后他决定重写Compass库使其成为一个独立的服务叫做Elasticsearch.
第一个公开版本出现在2010年2月,在那之后Elasticsearch已经成为Github上最受欢迎的项目之一, 代码贡献者超过300人。一家主营Elasticsearch的公司就此成立,他们一边提供商业支持一边开发新功能,不过Elasticsearch将永远开源且对所有人可用。
Shay的妻子依旧等待着她的食谱搜索…

• 集群，节点，索引，类型，文档，分片,映射是什么?
  elasticsearch是面向文档关系行数据库 和elasticsearch客观的对比！！！
  
  elasticsearch(集群)中可以包含多个索引数据库) ,每个索引中可以包含多个类型(表) ,每个类型下又包含多个文档(行),每个文档中又包含多个字段(列)。
  物理设计:
  elasticsearch在后台把每个索引划分成多个分片,每分分片可以在集群中的不同服务器间迁移
  逻辑设计：
  一个索引类型中,包含多个文档,比如说文档1 ,文档2。当我们索引一篇文档时 ,可以通过这样的各顺序找到它:索引>类型>文档ID , 通过这个组合我们就能索引到某个具体的文档。

注意:ID不必是整数 ,实际上它是个字符串。

索引

就是数据库!

索引是映射类型的容器，elasticsearch中的索引是-个非常大的文档集合。索引存储了映射类型的字段和其他设置。然后它们被存

储到了各个分片上了。我们来研究下分片是如何工作的。

文档

之前说elasticsearch是面向文档的,那么就意味着索引和搜索数据的最小单位是文档, elasticsearch中,文档有几个重要属性:

• 自我包含,一篇文档同时包含字段和对应的值,也就是同时包含key:value !

• 可以是层次型的，一个文档中包含自文档,复杂的逻辑实体就是这么来的!

• 灵活的结构,文档不依赖预先定义的模式,我们知道关系型数据库中,要提前定义字段才能使用,在elasticsearch中,对于字段是非常灵活的,有时候,我们可以忽略该字段,或者动态的添加一个新的字段。

尽管我们可以随意的新增或者忽略某个字段,但是,每个字段的类型非常重要,比如一一个年龄字段类型,可以是字符串也可以是整形。因为elasticsearch会保存字段和类型之 间的映射及其他的设置。这种映射具体到每个映射的每种类型,这也是为什么在

elasticsearch中,类型有时候也称为映射类型。

类型

类型是文档的逻辑容器,就像关系型数据库-样,表格是行的容器。类型中对于字段的定 义称为映射,比如name映射为字符串类型。我们说文档是无模式的,它们不需要拥有映射中所定义的所有字段,比如新增一个字段,那么elasticsearch是怎么做的呢?elasticsearch会自动的将新字段加入映射,但是这个字段的不确定它是什么类型, elasticsearch就开始猜,如果这个值是18 ,那么elasticsearch会认为它是整形。但是elasticsearch也可能猜不对 ，所以最安全的方式就是提前定义好所需要的映射,这点跟关系型数据库殊途同归了,先定义好字段,然后再使用,别整什么幺蛾子。

物理设计:节点和分片如何工作

一个集群至少有一个节点,而一个节点就是一个elasricsearch进程 ,节点可以有多个索引默认的,如果你创建索引,那么索引将会

有个5个分片( primary shard ,又称主分片)构成的,每一个主分片会有一 个副本 ( replica shard ,又称复制分片)

上图是一个有3个节点的集群,可以看到主分片和对应的复制分片都不会在同一个节点内,这样有利于某个节点挂掉了,数据也不至于丢失。实际上， 一个分片是一个Lucene索引, 一个包含倒排索引的文件目录,倒排索引的结构使得elasticsearch在不扫描全部文档的情况下,就能告诉你哪些文档包含特定的关键字。不过,等等,倒排索引是什么鬼?

倒排索引

elasticsearch使用的是一种称为倒排索弓|的结构,采用Lucene倒排索作为底层。这种结构适用于快速的全文搜索，一个索引由文档中所有不重复的列表构成,对于每一个词,都有一一个包含它的文档列表。例如,现在有两个文档，每个文档包含如下内容:

study every day， good good up to forever #文档1包含的内容
To forever, study every day, good good up #文档2包含的内容

为了创建倒排索引,我们首先要将每个文档拆分成独立的词(或称为词条或者tokens) ,然后创建一个包含所有不重复的词条的排序列表,然后列出每个词条出现在哪个文档:

• ElasticSearch谁在使用：

1. 维基百科,类似百度百科,全文检索,高亮,搜索推荐

2. The Guardian (国外新闻网站) , 类似搜狐新闻，用户行为日志(点击，浏览,收藏,评论) +社交网络数据(对某某新闻的相

关看法) , 数据分析,给到每篇新闻文章的作者,让他知道他的文章的公众反馈(好,坏，热门,垃圾,鄙视，崇拜)

3. Stack Overflow (国外的程序异常讨论论坛) , IT问题,程序的报错,提交上去,有人会跟你讨论和回答,全文检索,搜索相关

问题和答案,程序报错了,就会将报错信息粘贴到里面去,搜索有没有对应的答案

4. GitHub (开源代码管理) , 搜索上干亿行代码

5. 电商网站,检索商品

6. 日志数据分析, logstash采集日志, ES进行复杂的数据分析, ELK技术, elasticsearch+logstash+kibana

7. 商品价格监控网站,用户设定某商品的价格阈值,当低于该阈值的时候,发送通知消息给用户,比如说订阅牙膏的监控,如果

高露洁牙膏的家庭套装低于50块钱,就通知我,我就去买

8. BI系统,商业智能, Business Inelligence.比如说有个大型商场集团，BI ,分析一下某某区域最近3年的用户消费 金额的趋势

以及用户群体的组成构成,产出相关的数张报表, **区,最近3年,每年消费金额呈现100%的增长,而且用户群体85%是高级白

领,开一个新商场。ES执行数据分析和挖掘, Kibana进行数据可视化

9. 国内:站内搜索(电商，招聘，门户，等等)，IT系统搜索(OA,CRM,ERP，等等)，数据分析

1.3 ES和Solr的区别——货比三家

• Elasticsearch简介

Elasticsearch是一一个实时分布式搜索和分析引擎。它让你以前所未有的速度处理大数据成为可能。

它用于全文搜索、结构化搜索、分析以及将这三者混合使用:

维基百科使用Elasticsearch提供全文搜索并高亮关键字,以及输入实时搜索(search-asyou-type)和搜索纠错(did-you-mean)等搜索建议功能。

英国卫报使用Elasticsearch结合用户日志和社交网络数据提供给他们的编辑以实时的反馈,以便及时了解公众对新发表的文章的回应。

StackOverflow结合全文搜索与地理位置查询,以及more-like-this功能来找到相关的问题和答案。

但是Elasticsearch不仅用于大型企业,它还让像DataDog以及Klout这样的创业公司将最初的想法变成可扩展的解决方案。
Elasticsearch可以在你的笔记本.上运行,也可以在数以百计的服务器上处理PB级别的数据。

Elasticsearch是一个基于Apache Lucene™的开源搜索引擎。无论在开源还是专有领域, Lucene可以被认为是迄今为止最先进、性能最好的、功能最全的搜索引擎库。但是, Lucene只是一个库。想要使用它,你必须使用Java来作为开发语言并将其直接集成到你的应用中,更糟糕的是, Lucene非常复杂,你需要深入了解检索的相关知识来理解它是如何工作的。

Elasticsearch也使用Java开发并使用Lucene作为其核心来实现所有索引和搜索的功能,但是它的目的是通过简单的RESTful API来隐藏Lucene的复杂性，从而让全文搜索变得简单。

• Solr简介

Solr是Apache’下的一个顶级开源项目,采用Java开发,它是基于Lucene的全文搜索服务器。Splr提供 了比Lucene更为丰富的查询语言,同时实现了可配置、可扩展,并对索引、搜索性能进行了优化

Solr可以独立运行,运行在Jetty. Tomcat等这些Servlet容器中 , Solr索引的实现方法很简单,用POST方法向Solr服务器发送一个描述Field及其内容的XML文档, Sol根据xm|文档添加、删除、更新索引。Solr 搜索只需要发送HTTP GET请求,然后对Solr返回Xml、json等格式的查询结果进行解析,组织页面布局。Solr不提供构建UI的功能 , Solr提供了一个管理界面,通过管理界面可以查询Solr的配置和运行情况。

solr是基于lucene开发企业级搜索服务器,实际上就是封装了lucene.

Solr是一个独立的企业级搜索应用服务器,它对外提供类似于Web-service的API接口。用户可以通过http请求,向搜索引擎服务器提交一定格式的文件,生成索引;也可以通过提出查找请求,并得到返回结果。

ElasticSearch vs Solr总结

1. es基本是开箱即用(解压就可以用!)，非常简单。Solr安装略微复杂一丢丢！！！

2. Solr 利用Zookeeper进行分布式管理,而Elasticsearch 自身带有分布式协调管理功能。

3. Solr 支持更多格式的数据，比如JSON、XML、 CSV ，而Elasticsearch仅支持json文件格式。

4. Solr 官方提供的功能更多,而Elasticsearch本身更注重于核心功能,高级功能多有第三方插件提供,例如图形化界面需要kibana友好支撑

5. Solr 查询快,但更新索引时慢(即插入删除慢) ,用于电商等查询多的应用;

• ES建立索引快(即查询慢) ,即实时性查询快,用于facebook新浪等搜索。

• Solr 是传统搜索应用的有力解决方案,但Elasticsearch 更适用于新兴的实时搜索应用。

6. Solr比较成熟,有一个更大,更成熟的用户、开发和贡献者社区,而Elasticsearch相对开发维护者较少,更新太快,学习使用成本较高。

2：Kibana介绍

• 了解ELK

ELK是Elasticsearch. Logstash. Kibana三大开源框架首字母大写简称。 市面上也被成为Elastic Stack,其中Elasticsearch是一个基于Lucene.分布式、通过Restful方式进行交互的近实时搜索平台框架。像类似百度、谷歌这种大数据全文搜索引擎的场景都可以使用Elasticsearch作为底层支持框架，可见Elasticsearch提供的搜索能力确实强大,市面上很多时候我们简称Elasticsearch为es。Logstash是ELK的中央数据流引擎,用于从不同目标(文件/数据存储/MQ )收集的不同格式数据,经过过滤后支持输出到不同目的地(文件/MQ/redis/elasticsearch/kafka等)。Kibana可以将elasticsearch的数据通过友好的页面展示出来 ,提供实时分析的功能。

市面上很多开发只要提到ELK能够一致说出它是一个日志分析架构技术栈总称,但实际上ELK不仅仅适用于日志分析,它还可以支持其它任何数据分析和收集的场景,日志分析和收集只是更具有代表性。并非唯一性。

• Kibana是一一个针对Elasticsearch的开源分析及可视化平台,用来搜索、查看交互存储在Elasticsearch索引中的数据。 使用Kibana ,可以通过各种图表进行高级数据分析及展示。Kibana让海量数据更容易理解。它操作简单,基于浏览器的用户界面可以快速创建仪表板( dashboard )实时显示Elasticsearch查询动态。设置Kibana非常简单。 无需编码或者额外的基础架构,几分钟内就可以完成Kibana安装并启动Elasticsearch索引监测。

官网: https://www.elastic.co/cn/kibana

3：Docker下Kibana和ElasticSearch的安装

Docker下安装Redis和Mysql，elasticsearch，Kibana——简洁篇