centos7中kafka集群环境搭建部署

一、前期准备

1、下载kafka安装包

官方下载地址:http://kafka.apache.org/downloads.html

kafka_2.11-2.0.0.tgz

2、准备好要安装的集群环境的目标机器(3台安装centos7系统)

3、将下载好的压缩包拷贝到集群机器中

----可利用shell软件的rz命令进行拷贝或者使用winSCP工具

4、安装JDK,可参照:https://blog.csdn.net/xuexi_39/article/details/82854735

5、创建hadoop用户并赋予管理员权限

6、zookeeper集群已安装,可参照另外博文:https://blog.csdn.net/xuexi_39/article/details/82867995

二、解压kafka压缩包到目标安装目录中

1、将压缩包解压到/usr/local目录下

tar -zxvf kafka_2.11-2.0.0.tgz -C /usr/local/

2、重命名kafka文件名名称

mv kafka_2.11-2.0.0  kafka

三、将kafka目录赋予所有者及权限归属为hadoop用户

chown -hR hadoop /usr/local/kafka/   # 修改所有者为hadoop
chgrp -hR hadoop /usr/local/kafka/   # 修改所属组为hadoop

四、搭建kafka集群

1、进入/usr/local/kafka/config目录下

查看配置文件server.properties,该文件的各个参数说明如下:

broker.id=0  #当前机器在集群中的唯一标识,和zookeeper的myid性质一样
port=9092 #当前kafka对外提供服务的端口默认是9092
host.name=192.168.7.100 #这个参数默认是关闭的,在0.8.1有个bug,DNS解析问题,失败率的问题。
num.network.threads=3 #这个是borker进行网络处理的线程数
num.io.threads=8 #这个是borker进行I/O处理的线程数
log.dirs=/opt/kafka/kafkalogs/ #消息存放的目录,这个目录可以配置为“,”逗号分割的表达式,上面的num.io.threads要大于这个目录的个数这个目录,如果配置多个目录,新创建的topic他把消息持久化的地方是,当前以逗号分割的目录中,那个分区数最少就放那一个
socket.send.buffer.bytes=102400 #发送缓冲区buffer大小,数据不是一下子就发送的,先回存储到缓冲区了到达一定的大小后在发送,能提高性能
socket.receive.buffer.bytes=102400 #kafka接收缓冲区大小,当数据到达一定大小后在序列化到磁盘
socket.request.max.bytes=104857600 #这个参数是向kafka请求消息或者向kafka发送消息的请请求的最大数,这个值不能超过java的堆栈大小
num.partitions=1 #默认的分区数,一个topic默认1个分区数
log.retention.hours=168 #默认消息的最大持久化时间,168小时,7天
message.max.byte=5242880  #消息保存的最大值5M
default.replication.factor=2  #kafka保存消息的副本数,如果一个副本失效了,另一个还可以继续提供服务
replica.fetch.max.bytes=5242880  #取消息的最大直接数
log.segment.bytes=1073741824 #这个参数是:因为kafka的消息是以追加的形式落地到文件,当超过这个值的时候,kafka会新起一个文件
log.retention.check.interval.ms=300000 #每隔300000毫秒去检查上面配置的log失效时间(log.retention.hours=168 ),到目录查看是否有过期的消息如果有,删除
log.cleaner.enable=false #是否启用log压缩,一般不用启用,启用的话可以提高性能
zookeeper.connect=192.168.7.100:2181,192.168.7.101:2181,192.168.7.102:2181 #设置zookeeper的连接端口

2、修改配置文件中的增加如下参数,即可:

broker.id=1
port= 9092
host.name=192.168.251.28
log.dirs=/usr/local/kafka/log/kafka
zookeeper.connect=192.168.251.28:2181,192.168.251.29:2181,192.168.251.30:2181

说明:broker.id的值三个节点要配置不同的值,分别配置为0,1,2;log.dirs必须保证目录存在,不会根据配置文件自动生成;

五、启动zookeeper服务(集群中服务都启动)

六、启动kafka集群

1、进入/usr/local/kafka目录中,执行命令:

./bin/kafka-server-start.sh -daemon config/server.properties &

说明:集群中各个节点都要启动,启动无报错

2、查看是否启动成功

猜你喜欢

转载自blog.csdn.net/xuexi_39/article/details/83015813