Logstash 是一种强大的数据处理工具,它可实现数据传输,格式处理,格式输出,还有强大的插件功能,常用于日志处理。
Logstash工作的三个阶段:
1.input数据输入端,可以接收来自任何地方的源数据。 file,redis,beat(接收来自Filebeat的事件)
2.filter数据中转层,主要进行格式处理,数据类型转换,数据过滤,字段添加,修改等
grok:通过正则解析和结构化任何文本,grok是当前logstash最好的方式对非结构化日志数据解析成结构化和可查询化
3.output是logstash工作的最后一个阶段,负责将数据输出到指定位置,兼容大多数应用
elasticsearch:发送数据到elasticsearch,便于查询,分析,绘图。
file:将事件数据写到磁盘文件上
mongodb:将事件数据发送至高性能NoSQL mongodb,便于永久存储,查询,分析,大数据分片。
redis:将数据发送至redis-server,常用于中间层暂时缓存