kafka 集群 測試

2021-07-22 02:15:23 字數 2862 閱讀 6762

參考資料:

wget 

解壓tar -xvzf kafka_2.11-0.10.0.1.tgz

移動mv kafka_2.11-0.10.0.1  /usr/local

修改配置

cd kafka_2.11-0.10.0.1/config

mv server.properties server-1.properties

cp server-1.properties server-2.properties

cp server-1.properties server-3.properties

修改server-1.properties

broker.id=1

listeners=plaintext:

log.dirs=/tmp/kafka-logs1

zookeeper.connect=10.1.78.23:2181  #zookeeper 已安裝

修改server-2.properties

broker.id=2

listeners=plaintext:

log.dirs=/tmp/kafka-logs2

zookeeper.connect=10.1.78.23:2181  #zookeeper 已安裝

修改server-3.properties

broker.id=3

listeners=plaintext:

log.dirs=/tmp/kafka-logs3

zookeeper.connect=10.1.78.23:2181  #zookeeper 已安裝

啟動

./kafka-server-start.sh -daemon ../config/server-1.properties 

./kafka-server-start.sh -daemon ../config/server-2.properties 

./kafka-server-start.sh -daemon ../config/server-3.properties 

建立topic

./kafka-topics.sh --create --zookeeper 10.1.78.23:2181 --replication-factor 3 --partitions 1 --topic replication-test

檢視

./kafka-topics.sh --describe --zookeeper localhost:2181

topic:replication-test  partitioncount:1        replicationfactor:3     configs:

topic: replication-test partition: 0    leader: 3       replicas: 3,1,2 isr: 3,1,2

topic:test      partitioncount:1        replicationfactor:1     configs:

topic: test     partition: 0    leader: 1       replicas: 1     isr: 1

"leader":該節點負責所有指定分割槽的讀和寫,每個節點的領導都是隨機選擇的。

"replicas":備份的節點,無論該節點是否是leader或者目前是否還活著,只是顯示。

"isr":備份節點的集合,也就是活著的節點集合。

啟動自帶  provider

./kafka-console-producer.sh --broker-list 10.1.78.23:9091 --topic replication-test

this is  my first  message!

啟動自帶  consumer

./kafka-console-consumer.sh --zookeeper 10.1.78.23:2181 --from-beginning --topic replication-test

this is  my first  message!

集群測試

kill 掉其中一台 broker

kill -9 25147

現在可以看到,3臺集群,只有兩台可用,因為剛才kill掉一台

[root@uf201102372 bin]# ./kafka-topics.sh --describe --zookeeper localhost:2181

topic:replication-test  partitioncount:1        replicationfactor:3     configs:

topic: replication-test partition: 0    leader: 3       replicas: 3,1,2 isr: 3,1

topic:test      partitioncount:1        replicationfactor:1     configs:

topic: test     partition: 0    leader: 1       replicas: 1     isr: 1

重啟乙個conumser,可以看到原來message還存在,沒有丟失

[root@uf201102372 bin]# ./kafka-console-consumer.sh --zookeeper 10.1.78.23:2181 --topic replication-test --from-beginning

this is my first message!

Kafka集群的部署與測試

kafka是一款分布式訊息發布和訂閱的系統,相比activemq具有高效能和高吞吐率。官方 相關專案 相關示例專案 leek 簡易版實時智慧型選股平台 tar zxvf kafka 2.11 0.9.0.1.tgz cd kafka 2.11 0.9.0.1.tgz 2 安裝zookeeper集群 ...

kafka 集群安裝與安裝測試

一 集群安裝 解壓 tar zxvf kafka 2.9.2 0.8.1.tgz rpm ivh sbt.rpm 3.更新scala環境 sbt update sbt package sbt assembly package dependency sbt sbt dependency 不同版本命令不...

kafka集群的搭建及測試(20191218更新)

20191218更新 目前複習到kafka集群,然後回來看了看之前寫的這篇文章。真的是寫的亂七八糟,向之前所有搜到這篇文章的童鞋致歉!又重新整理了一篇 kafka集群 偽分布式 的搭建及整合springboot 比這篇有條理,也算是隨著年齡增長,自己也在進步吧。o o 以下是原回答 準備工作 kaf...