kafka使用筆記

2021-06-29 02:16:14 字數 1781 閱讀 4497

1.安裝zookeeper

bash** 收藏**

ticktime=2000

clientport=4180

引數說明:

ticktime: zookeeper中使用的基本時間單位, 毫秒值.

datadir: 資料目錄. 可以是任意目錄.

datalogdir: log目錄, 同樣可以是任意目錄. 如果沒有設定該引數, 將使用和datadir相同的設定.

clientport: 監聽client連線的埠號.

至此, zookeeper的單機模式已經配置好了. 啟動server只需執行指令碼:

bash** 收藏**

bin/zkserver.sh start

server啟動之後, 就可以啟動client連線server了, 執行指令碼:

bash** 收藏**

bin/zkcli.sh -server localhost:4180

2,安裝kafka

tar -xzf kafka_2.9.2-0.8.1.1.tgz

cd kafka_2.9.2-0.8.1.1

修改config/zookeeper.properties

config/server.properties 的埠配置

使用篇1.先啟動zookeeper

bin/zkserver.sh start

2.啟動kafka維護的zookeeper

bin/zookeeper-server-start.sh config/zookeeper.properties

3.啟動kafka伺服器

bin/kafka-server-start.sh config/server.properties

kafka伺服器環境完畢,客戶端**

c語言客戶端連線到zookeeper需要依賴庫

1.librdkafka-master

安裝。注意:./configure之前應該講librdkafka-master中的所有檔案釋放許可權

2.zookeeper c api 安裝

編譯 /zookeeper-3.3.6/src/c

./configure --prefix=/hfx/zookeeper

make

make install

3.安裝jansson

./configure

make

make install

kafka 主題topic不能用:'.', '_' and '-'

num.partition 表示建立的主題的預設分割槽數量

kafka集群配置

單節點:乙個broker的集群

單節點:多個broker的集群

多節點:多broker集群

1.zookeeper_info = "192.168.1.111:55520,192.186.1.115:55520"

2.分別啟動kafka維護的兩個zookeeper,192.168.1.111:55520,192.168.1.115:55520

3.配置kafka server 資訊

zookeeper.proces

zookeeper_conncte=192.168.1.111:55520,192.168.1.115:55520

4.啟動kafka server

注意點:

備份數量應該少於broker數量《原因檢視中》

bin/kafka-topics.sh --describe --zookeeper localhost:2181 --topic test

KafKa使用筆記

kafka使用筆記 快速開始 關閉防火牆 版本 kafka 2.12 1.0.0 tgz zookeeper集群 hdp1,hdp2,hdp3 kafka集群搭建 hdp1,hdp2,hdp3 一 配置檔案 在hdp1下 vim kafka 2.12 1.0.0 config server.prop...

Kafka使用筆記

1.1定義 kafka 是乙個分布式的基於發布 訂閱模式的訊息佇列 message queue 主要應用於 大資料實時處理領域。1.2 訊息佇列 1.2.1 傳統訊息佇列的應用場景 訊息佇列好處 1.2.2 訊息佇列兩種模式 1 點對點模式 一對一,消費者主動拉取資料,訊息收到後訊息清除 2 2 發...

kafka安裝使用筆記

kafka 2.11 2.0.0 root lijia1 config vi server.properties broker.id 0 advertised.listeners plaintext zhang 9092 log.dirs opt bigdata kafka211 kafka log...