ELK之kafka單節點安裝

2021-10-09 04:50:00 字數 2641 閱讀 6461

最近在搞elk,寫個文章記錄分享一下經驗

1.解壓工具包

命令:

tar -xzvf kafka_2.12-2.3.1.tgz

2.進入/usr/local目錄,配置軟連線

命令:ln -s kafka_2.12-2.3.1/ kafka
配置完成後,下文中/usr/local/kafka即代表/usr/local/kafka_2.12-2.3.1目錄

3.建立所需檔案目錄

#建立zookeeper資料目錄

mkdir /usr/local/kafka/zookeeper

#建立日誌目錄

mkdir /usr/local/kafka/log

#建立zookeeper日誌目錄

mkdir /usr/local/kafka/log/zookeeper

#建立kafka日誌目錄

mkdir /usr/local/kafka/log/kafka

4.配置zookeeper

修改/usr/local/kafka_2.12-2.3.1/config/目錄下zookeeper.properties檔案,配置值如下:

#zk的資料目錄和日誌目錄。預設在tmp下

datadir=/usr/local/kafka/zookeeper

datalogdir=/usr/local/kafka/log/zookeeper

clientport=2181

maxclientcnxns=0

#zk的心跳時間,單位毫秒

ticktime=2000

#集群之間初始化的心跳時限。即多少個心跳次數,初始化失敗。總時間為10*ticktime

initlimit=10

#集群之間的通訊的心跳時限。即多少個心跳次數,通訊失敗。總時間為5*ticktime

synclimit=5

#server的配置。格式server.a=b.c.d

#a為第幾號伺服器

#b為伺服器的ip

#c為通訊的埠

#d為集群leader掛掉後,選舉的埠

server.1=ip:2888:3888

server.2=ip:2888:3888

server.3=ip:2888:3888

5.新增mysid配置檔案

命令如下:

echo 1 > /usr/local/kafka/zookeeper/mysid
若是集群不是,其他的機器上執行如下命令:

echo 2 > /usr/local/kafka/zookeeper/myid 

echo 3 > /usr/local/kafka/zookeeper/myid

其中1、2、3這些序號,與server.1、server.2等保持一致。

6.配置kafka

修改/usr/local/kafka/config/目錄下server.properties檔案,修改項如下(若存在則修改,若沒有則新增),其中的broker.id=1與上一步類似,各伺服器配置不同值(1,2,3),對應關係同上一步。

#全域性唯一,節點之間不同

broker.id=1

advertised.listeners=plaintext://ip:9092

log.dir=/usr/local/kafka/log/kafka

zookeeper.connect=ip1:2181,ip2:2181,ip3:2181

7.啟動zookeeper

進入/usr/local/kafka目錄,啟動命令如下:

nohup ./bin/zookeeper-server-start.sh ./config/zookeeper.properties > ./log/zookeeper/zookeeper.log 2>&1 &
8.啟動kafka

進入/usr/local/kafka目錄,啟動命令如下:

nohup ./bin/kafka-server-start.sh ./config/server.properties >./log/kafka/kafka.log 2>1 &
附錄:

先啟動zooekeeper,後啟動kafka,關閉的順序相反,先關閉kafka,後關閉zookeeper

停止zookeeper,在/usr/local/kafka目錄下執行命令:

./bin/zookeeper-server-stop.sh

停止kafka,在/usr/local/kafka目錄下執行命令:

./bin/kafka-server-stop.sh

ELK之Logstash單節點安裝及簡單使用

logstash單節點安裝及簡單使用 前期準備 1 安裝jdk 2 關閉防火牆 1.建立logstas 件夾,上傳並解壓安裝包 cd usr mkdir logstash cd logstash rz 選中上傳準備好的 logstash安裝包 tar zxvf xx 2.啟動 2.1.bin log...

kafka單節點broker安裝

1.先安裝zookeeper 3.解壓到指定目錄 4.配置環境變數 5.配置server.properties kafka home config zookeeper zookeeper.connect 你的zookeeper位址 6.啟動 kafka server kafka server sta...

kafka單節點單broker的安裝部署及使用

kafka單節點單broker的安裝部署及使用 配置環境變數 vi bash profile export kafka home usr soft kafka 2.13 2.4.0 export path kaf kaho me b in kafka home bin kafkah ome bin ...