大資料學習筆記 Kafka相關命令記錄

2021-09-27 10:24:33 字數 741 閱讀 9927

jps

檢視kafka相關程序及程序號。其中kafka為kafka的守護程序,quorumpeermain為zookeeper的守護程序

13542 jps 6871 kafka 31224 quorumpeermain

bin/kafka-topics.sh --list --zookeeper localhost:2181

檢視kafka已建立的topics

bin/kafka-console-producer.sh --broker-list localhost:9092 --topic hello-kafka

啟動生產者以傳送訊息

bin/kafka-console-consumer.sh --zookeeper localhost:2181 —topic topic-name --from-beginning

啟動消費者以接收訊息

bin/kafka-topics.sh --zookeeper localhost:2181 --alter --topic hello-kafka --parti-tions 2

修改topic名稱

bin/kafka-topics.sh --zookeeper localhost:2181 --delete --topic topic_name

刪除topic

大資料相關學習筆記

整體定位 是乙個用來儲存計算海量資料的框架,核心是hdfs mapreduce hdfs 分布式檔案系統。引入了存放檔案元資料資訊的伺服器namenode和實際存放資料的伺服器datanode,對資料進行分布式儲存和讀取 乙個形象的比喻 乙個分布式的,有冗餘備份的,可以動態擴充套件的用來儲存大規模資...

大資料 kafka學習基礎篇

一.訊息佇列的兩個模式和特點 兩個模式 點對點模式 一對一,消費者主動拉取資料,訊息收到後訊息清楚 發布 訂閱模式 一對多,資料生產後,推送給所有訂閱者 8大特點 1.解耦 2.冗餘 3.擴充套件性 4.靈活性 峰值處理能力 5.可恢復性 6.順序保證 7.緩衝 8.非同步通訊 佇列 先進先出 棧 ...

大資料學習之 Kafka 篇

一 簡介 一種分布式的基於發布 訂閱的訊息系統 二 場景 常用組合 常用 flume 收集資料 kafka 把收集來的資料儲存到kafka spark streaming 使用spark streaming 從kafka中取資料 運用場景 1.系統之間的解耦合 2.峰值壓力緩衝 3.非同步通訊 三 ...