【插件的安装及使用】Zookeeper简单安装部署与Kafka的安装====Zookeeper&Kafka基本使用

【插件的安装及使用】Zookeeper简单安装部署与Kafka的安装====Zookeeper&&Kafka

一、Zookeeper的安装部署
1.从 https://zookeeper.apache.org/releases.html 下载ZooKeeper,目前最新的稳定版本为 3.4.8 版本,用户可以自行选择一个速度较快的镜像来下载即可。这里下载的是3.4.14版本。
2.下载并解压ZooKeeper软件压缩包后,可以看到zk包含以下的文件和目录:
在这里插入图片描述
ZooKeeper软件的文件和目录
bin目录
zk的可执行脚本目录,包括zk服务进程,zk客户端,等脚本。其中,.sh是Linux环境下的脚本,.cmd是Windows环境下的脚本。 lib目录
zk依赖的包。 libexec目录
一些用于操作zk的工具包。
3.ZooKeeper的安装包括单机模式安装,以及集群模式安装。
单机模式较简单,是指只部署一个zk进程,客户端直接与该zk进程进行通信。
在开发测试环境下,通过来说没有较多的物理资源,因此我们常使用单机模式。当然在单台物理机上也可以部署集群模式,但这会增加单台物理机的资源消耗。故在开发环境中,我们一般使用单机模式。
找到zoo_sample.cfg重命名为zoo.cfg
在这里插入图片描述
4.在任意文本编辑器(如notepad)中打开zoo.cfg,修改dataDir保存路径
如:dataDir=F:/软件/zookeeper-3.4.14/logs
或者 dataDir=F:\软件\zookeeper-3.4.14\logs
(路径根据自己实际需要设置)
注意:路径要么是"/“分割,要么是转义字符”\",这样会生成正确的路径(层级,子目录)。
默认端口是2181,如果需要更改也可以在zoo.cfg里面修改 (本文未做修改)
clientPort=2181
编辑前:
在这里插入图片描述
编辑后:
在这里插入图片描述
5. 添加系统变量:ZOOKEEPER_HOME=F:\软件\zookeeper-3.4.14
(路径根据自己实际更改,最好不要像我一样路径中出现中文字符)
在这里插入图片描述
在这里插入图片描述
编辑path系统变量,添加路径:%ZOOKEEPER_HOME%\bin
在这里插入图片描述
在这里插入图片描述
6.打开cmd,输入zkServer,运行Zookeeper
在这里插入图片描述
Zookeeper已经安装完成,已在2181端口运行。
(可能会提示JAVA_HOME找不到,去添加JDK的系统变量后再试一遍就可以了)
二、Kafka的安装
1…从http://kafka.apache.org/downloads下载Kafka,这里下载的是 kafka_2.11-2.3.1.tgz (asc, sha512),注意:不要下载带src的。
在这里插入图片描述
2.解压文件后可以看到Kafka的文件目录
在这里插入图片描述
3.进入kafka配置文件所在目录,F:\软件\kafka_2.11-2.3.1\config,使用任意文本编辑器(如notepad)中打开server.properties文件,
将log.dirs=/tmp/kafka-logs更改为:log.dirs=F:/软件/kafka_2.11-2.3.1/kafka-logs
或者log.dirs=F:\软件\kafka_2.11-2.3.1\config
同样注意:路径要么是"/“分割,要么是转义字符”\",这样会生成正确的路径(层级,子目录)。
在这里插入图片描述
更改前:
在这里插入图片描述
更改后:
在这里插入图片描述
4.在server.properties文件中,zookeeper.connect=localhost:2181代表kafka所连接的zookeeper所在的服务器IP以及端口,可根据需要更改。本文在同一台机器上使用,故不用修改。
5.kafka会按照默认配置,在9092端口上运行,并连接zookeeper的默认端口2181。
三、运行Kafka
提示:请确保启动kafka服务器前,Zookeeper实例已经在运行,因为kafka的运行是需要zookeeper这种分布式应用程序协调服务。
在这里插入图片描述
1:打开cmd,进入kafka安装目录,F:\软件\kafka_2.11-2.3.1
2:在命令行中输入:.\bin\windows\kafka-server-start.bat .\config\server.properties 回车。
在这里插入图片描述
运行成功。
3.重要(操作日志的处理):
kafka启动后,在kafka安装目录下有个logs目录,里面默认生成一堆操作日志,而且会不断生成不同时间戳的操作日志。(这样看起来真心很乱):
在这里插入图片描述
这是因为,启动的时候是会默认使用到config目录下log4j.properties文件中的配置
找到config下的log4j.properties
在这里插入图片描述
编辑log4j.properties,将路径更改下即可,这样就可以归档在一个文件夹下边了,路径根据自己喜好定义:
更改前:
在这里插入图片描述
更改后:
在这里插入图片描述
当以后再启动kafka时,会在kafka安装目录下创建start-logs目录,里面存放日志。
另外如何消除不断生成日志的问题,就是同一天的不同时间会不停生成。
修改这里,还是在log4j.properties中:
修改前:
在这里插入图片描述
修改后:
在这里插入图片描述
到这里,配置已经完成。
4.测试
(1)创建主题
①创建主题,命名为"test20191114",replicationfactor=1(因为只有一个kafka服务器在运行)。可根据集群中kafka服务器个数来修改replicationfactor的数量,以便提高系统容错性等。
②在F:\软件\kafka_2.11-2.3.1\bin\windows目录下打开新的命令行(cmd)
③输入命令:
kafka-topics.bat --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test20191114
在这里插入图片描述
执行完毕之后,此窗口可以关闭。
(2):创建生产者(producer)和消费者(consumer)
①在F:\软件\kafka_2.11-2.3.1\bin\windows目录下打开新的命令行(cmd)。
②输入命令,启动生产者:
kafka-console-producer.bat --broker-list localhost:9092 --topic test2019
在这里插入图片描述
该窗口不要关闭。
③同样在该目录下打开新的命令行。
④输入命令,启动消费者:
kafka-console-consumer.bat --zookeeper localhost:2181 --topic test20191114
出现了如下错误:Zookeeper is not a recognized option
在这里插入图片描述
这是因为新版本kafka中,–zookeeper这种启动方式已删除。
解决办法:
0.90版本之后启动消费者的方法如下:
重新输入命令:kafka-console-consumer.bat --bootstrap-server localhost:9092 --topic test2019
消费者成功启动
该窗口不要关闭
现在生产者、消费者均已创建完成。

⑤在生产者命令行窗口中任意输入内容,回车 在消费命令行窗口中即可看到相应的内容。
生产者:
在这里插入图片描述
消费者:
在这里插入图片描述
到此为止,kafka的基本使用已经完成。

猜你喜欢

转载自blog.csdn.net/Lydia233/article/details/108077749