Kafka試用記錄

2021-07-09 13:59:15 字數 3194 閱讀 1689

為了初步了解kafka功能和效能,通過實驗簡單試用。

(1)kafka_2.9.1-0.8.2.1演示:

zookeeper server:

192.168.1.66:2181

kafka server:

192.168.1.66:9092

kafka consumer:

192.168.1.55

wget

tar xzvf kafka_2.9.1-0.8.2.1.tgz

cd kafka_2.9.1-0.8.2.1

前提zookeeper已經啟動:

在zookeeper的路徑下執行:bin/zkserver.sh start

啟動kafka server:

$ bin/kafka-server-start.sh config/server.properties

$ bin/kafka-topics.sh --create --zookeeper 192.168.1.66:2181 --replication-factor 1 --partitions 1 --topic test

created topic "test".

$ bin/kafka-topics.sh --list --zookeeper 192.168.1.66:2181

test

-------kafka producer:

host:192.168.1.66

#consle演示

bin/kafka-console-producer.sh --broker-list 192.168.1.66:9092 --topic test

#效能測試

bin/kafka-producer-perf-test.sh --topic test --batch-size=1000 --broker-list=192.168.1.66:9092 --message-size 100 --messages=1000000

start.time, end.time, compression, message.size, batch.size, total.data.sent.in.mb, mb.sec, total.data.sent.in.nmsg, nmsg.sec

2016-01-22 13:11:02:308, 2016-01-22 13:11:13:177, 0, 100, 1000, 95.37, 8.7743, 1000000, 92004.7842

-------kafka consumer:

host:192.168.1.55

#console演示

bin/kafka-console-consumer.sh --zookeeper 192.168.1.66:2181 --topic test --from-beginning

#效能測試

bin/kafka-consumer-perf-test.sh --topic test --message-size 100 --messages 1000000 --zookeeper 192.168.1.66:2181 --threads 1

start.time, end.time, fetch.size, data.consumed.in.mb, mb.sec, data.consumed.in.nmsg, nmsg.sec

2016-01-22 13:13:37:857, 2016-01-22 13:13:44:046, 1048576, 122.0698, 102.6660, 1000000, 841042.8932

(2)kafka_2.11-0.9.0.0演示

全部在localhost進行演示

wget

tar xzvf kafka_2.11-0.9.0.0.tgz

cd kafka_2.11-0.9.0.0

前提zookeeper已經啟動:

在zookeeper的路徑下執行:bin/zkserver.sh start

啟動kafka server:

bin/kafka-server-start.sh config/server.properties

bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test

#console演示

bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test

#效能測試

bin/kafka-producer-perf-test.sh --topic test --num-records=400000 --record-size 128 --throughput 200000 --producer-props bootstrap.servers=localhost:9092

bin/kafka-producer-perf-test.sh --topic test --num-records=4000000 --record-size 128 --throughput 400000 --producer-props bootstrap.servers=localhost:9092 producer.type=sync compression.codec=none serializer.class=kafka.serializer.defaultencoder

#console演示

bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic test --from-beginning

#效能測試(default: 10 threads)

bin/kafka-consumer-perf-test.sh --broker-list localhost:9092 --topic test --message-size 128 --messages 400000 --zookeeper localhost:2181

#效能測試(1 thread)

bin/kafka-consumer-perf-test.sh --broker-list localhost:9092 --topic test --message-size 128 --messages 4000000 --zookeeper localhost:2181 --threads 1

(3)參考

kafka學習記錄

kafka集群搭建 1 搭建 2 配置檔案介紹 軟體環境 linux 需要有zookeeper集群,版本選擇0.8.1 kafka 原始碼包 配置檔案 server.properties 不推薦使用預設的zookeeper broker.id 0 例項id 集群中的唯一標示 prot 9092 ho...

Kafka學習記錄

kafka適合什麼樣的場景?它可以用於兩大類別的應用 構造實時流資料管道,它可以在系統或應用之間可靠地獲取資料。相當於message queue 構建實時流式應用程式,對這些流資料進行轉換或者影響。就是流處理,通過kafka stream topic和topic之間內部進行變化 以下是一些基本的概念...

Kafka踩坑記錄

replication factor 複製因子 不能大於brokers的數量,且不能為0,因為它包括了主和從的副本。log.dirs值,表示kafka資料的存放目錄,而非kafka的日誌目錄 kafka的logs日誌目錄預設輸出到 logs目錄下 修改kafka的logs目錄是在 bin kafka...