KaFka 安裝與基本使用

2022-06-25 18:12:11 字數 2462 閱讀 7009

學了有一段時間的大資料了,學習新的元件,大部分安裝可以分為三步:上傳解壓,配置檔案,啟動。

分享一下我的kafka安裝包:

1、上傳解壓

2、進入到 /usr/local/soft/kafka_2.10-0.8.2.2/config 目錄下,修改server.properties檔案

3、因為kafka是去中心化的,所以我們需要在每一台節點上都要有

修改上面配置檔案中的兩個資訊:

4、scp到每個節點,並且修改broker.id

5、先每個節點啟動zookeeper 

6、每個節點上啟動kafka

nohup /usr/local/soft/kafka_2.10-0.8.2.2/bin/kafka-server-start.sh /usr/local/soft/kafka_2.10-0.8.2.2/config/server.properties >>/usr/local/soft/kafka_2.10-0.8.2.2/logs/start.log 2>&1 &

7、檢視程序

8、建立topic

--replication-factor ---每乙個分割槽的副本數量

--partition --分割槽數

kafka-topics.sh --create --zookeeper testmaster:2181,testnode1:2181,testnode2:2181,testnode3:2181 --replication-factor 4 --partitions 4 --topic flume

kafka-topics.sh --create --zookeeper linux:2181,linux1:2181,linux2:2181 --replication-factor 3 --partitions 3 --topic topic

9、檢視topic描述資訊

kafka-topics.sh --describe --zookeeper testmaster:2181,testnode1:2181,testnode2:2181,testnode3:2181 --topic topic

kafka-topics.sh --describe --zookeeper linux:2181,linux1:2181,linux2:2181 --topic topic

10、獲取所有topic

kafka-topics.sh --list --zookeeper testmaster:2181,testnode1:2181,testnode2:2181,testnode3:2181

kafka-topics.sh --list --zookeeper linux:2181,linux1:2181,linux2:2181

11、建立控制台生產者

kafka-console-producer.sh --broker-list testmaster:9092,testnode1:9092,testnode2:9092,testnode3:9092 --topic topic

kafka-console-producer.sh --broker-list linux:9092,linux1:9092,linux2:9092 --topic topic

12、建立控制台消費者 --from-beginning 從頭消費

kafka-console-consumer.sh --zookeeper testmaster:2181,testnode1:2181,testnode2:2181,testnode3:2181 --from-beginning --topic topic

kafka-console-consumer.sh --zookeeper linux:2181,linux1:2181,linux2:2181 --from-beginning --topic topic

kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --topic topic

kafka-console-consumer.sh --zookeeper localhost:2181 --from-beginning --topic topic

kafka安裝和基本使用

2.將檔案解壓 3.進入 kafka 2.9.2 0.8.1.1 config 目錄 4.修改 server.properties檔案 引數 參考引數值 broker.id 0 port 9092 log.dirs kafka 2.9.2 0.8.1.1 logs zookeeper.connect...

kafka使用與安裝

集群安裝 1 解壓 2 修改server.properties broker.id 1 zookeeper.connect weekend05 2181,weekend06 2181,weekend07 2181 3 將zookeeper集群啟動 4 在每一台節點上啟動broker 啟動的時候 如果...

Kafka 安裝與使用

html wget kafka安裝包和一般安裝包的命名方式不一樣,我們看乙個kafka包命名 kafka 2.11 1.1.0.tgz,其中2.11是scala的版本,1.1.0才是kafka的版本。官方強烈建議scala版本和伺服器上的scala版本保持一致,避免引發一些不可預知的問題。將安裝包放...