大資料開發之kafka安裝

2021-09-26 04:24:28 字數 1209 閱讀 1367

安裝kafka前需要安裝zookeeper,參考

二、解壓安裝包

[root@hlh001 software]#tar -zxvf kafka_2.11-0.11.0.0.tgz -c /opt/module/

三、修改解壓後的名稱

[root@hlh001 module]#mv kafka_2.11-0.11.0.0/ kafka

四、在kafka檔案中建logs檔案

[root@hlh001 kafka]# mkdir logs

五、修改配置檔案

[root@hlh001 config]# vim server.properties

#全域性唯一編號,不能重複

broker.id=0  

#刪除topic

功能 delete.topic.enable=true

# kafka

執行日誌存放的路徑

log.dirs=/opt/module/kafka/logs

#配置連線

zookeeper

集群位址

zookeeper.connect=hlh001:2181,hlh002:2181,hlh003:2181

六、配置環境變數

[root@hlh001 config]#vim /etc/profile

#kafkahome

export kafka_home=/opt/module/kafka

export path=$path:$kafka_home/bin

[root@hlh003 config]#

source /etc/profile

七、啟動集群

先啟動zookeeper: [root@hlh003 bin]# ./zkserver.sh start

[root@hlh001 bin]#kafka-server-start.sh ../config/server.properties &

八、檢視程序

[root@hlh003 ~]#jps

4705 kafka

4343 quorumpeermain

5050 jps

九、停止集群

[root@hlh001 bin]#kafka-server-stop.sh stop

大資料面試之Kafka

1 producer 訊息的生產者,主要是用於生產訊息的。主要是接入一些外部的資料來源,從外部獲取資料,比如說我們可以從flume獲取資料,還可以通過ftp傳入資料等,還可以通過kafka的api生產資料,通過push的方式,主動的將資料推送到kafka的topic當中去 2 topic 主題,裡面...

大資料之Kafka集群安裝及簡單使用

1.2 解壓安裝包 tar zxvf export software kafka 2.11 0.8.2.2.tgz c export servers 1.3 修改配置檔案 vi export servers kafka config server.properties 輸入以下內容 broker的全...

大資料學習之 Kafka 篇

一 簡介 一種分布式的基於發布 訂閱的訊息系統 二 場景 常用組合 常用 flume 收集資料 kafka 把收集來的資料儲存到kafka spark streaming 使用spark streaming 從kafka中取資料 運用場景 1.系統之間的解耦合 2.峰值壓力緩衝 3.非同步通訊 三 ...