Kafka 集群搭建 for mac

2021-09-02 18:44:00 字數 2240 閱讀 7514

參考kafka 安裝 for mac

配置一下kafka的環境變數:

sudo vim /etc/profile

加入配置

export kafka_home=/usr/local/cellar/kafka/2.1.0

export path=.:$path:$kafka_home/bin

重新整理一下配置

source /etc/profile

可以直接使用kafka預設的zookeeper:

zookeeper-server-start /usr/local/etc/kafka/zookeeper.properties &

假設我們只搭建三個kafka集群,那麼我們積極需要給這三個kafka配置server.properties

複製兩份server.properties

cp /usr/local/etc/kafka/server.properties /usr/local/etc/kafka/server1.properties

cp /usr/local/etc/kafka/server.properties /usr/local/etc/kafka/server2.properties

分別修改server1.properties、server2.properties

修改位置

server.properties

server1.properties

server2.properties

broker.id

broker.id=0

broker.id=1

broker.id=2

listeners

listeners=plaintext://:9092

listeners=plaintext://:9093

listeners=plaintext://:9094

log.dir

log.dir=/usr/local/var/lib/kafka-logs-1

log.dir=/usr/local/var/lib/kafka-logs-2

log.dir=/usr/local/var/lib/kafka-logs-3

啟動三個kafka

kafka-server-start /usr/local/etc/kafka/server.properties &

kafka-server-start /usr/local/etc/kafka/server1.properties &

kafka-server-start /usr/local/etc/kafka/server2.properties &

建立乙個有三個副本的topic

kafka-topics --create --zookeeper localhost:2181 --replication-factor 3 --partitions 1 --topic mytopic

使用describe命令檢視topic的資訊

「leader」:該集群中broker.id=2 的 kafka是 leader,leader負責資料的讀取、同步

「replicas」:存在的節點列表(包含已經掛掉的)

「isr」:「同步備份」的節點列表(不包含已經掛掉的,也就是活著的節點並且正在同步leader)。

由上圖可知當前的leader是broker.id為2的kafka伺服器,下面測試將當前的leader殺死

解釋上圖:

leader:0:當舊的leader掛掉之後馬上重新選舉出乙個新的leader(broker.id為0的kafka)

isr:0,1:將已經掛掉的kafka去除同步備份的節點列表

kafka集群搭建

安裝zookeeper kafka自帶了zookeeper,建議還是用外部的zk集群,搭建步驟如下 準備3臺機器,假設我們叫c1 c2 c3,ip分別為ip1 ip2 ip3 將附件zookeeper 3.4.6.tar.gz分別拷貝至3臺機器 c1機器上解壓zookeeper 3.4.6.tar....

kafka 集群搭建

1 前置條件 安裝jdk zookeeper 集群搭建 wget tar xzf kafka 2.11 0.10.2.1.tgz 3 修改 config server.properties 三個地方 1 broker.id 要對上 log.dirs 下 meta.properties broker....

kafka集群搭建

1 上傳安裝包 把安裝包上傳到伺服器 put r d kafka 2.11 0.8.2.0.tgz 2 解壓縮安裝包 3 配置kafka環境變數 vim etc profile export path path kafka home bin 重新整理策略 source etc profile 4 修...