Logstash安裝使用

2021-08-03 20:44:14 字數 1087 閱讀 2864

需求:將log日誌包含api: 的內容放入kafka。

2017-07-13 18:01:31.619 info 15096 — [nio-9001-exec-1] c.z.a.t.a.s.impl.***serviceimpl : eventreportservice_haslog_api:

1.配置正則

在logstash目錄新建 patterns 目錄,並建立正則檔案

mkdir patterns;cd patterns;

vim api_tk

api([

\\s\\s]*?)api

2.編輯logstash配置檔案 syj.conf

input 

} filter : %" }

overwrite=> [ "message" ]}if

"_grokparsefailure"

in [tags] }

}output "

}topic_id=>

"log"

bootstrap_servers=>

"127.16.10.21:9093,127.16.10.21:9094,127.16.10.21:9092"

acks=>

"0" compression_type=>}}

}

3.執行測試

bin/logstash -f  conf/syj.conf &
echo 2017-07-13

18:01:31.619 info 15096 --- [nio-9001-exec-1] c.z

.a.t

.a.s

.impl

.***serviceimpl : eventreportservice_haslog_api: >>/home/syj/log/dd/sdf.txt

編寫了乙個kafka客戶端,接收到資料,ok。

logstash一些優化配置,自行google/baidu

Logstash安裝和使用

logstash是開源的伺服器端資料處理管道,能夠同時 從多個 採集資料 轉換資料,然後將資料傳送到您最喜歡的 儲存庫 中。我們的儲存庫當然是 elasticsearch。作用 集中 轉換和儲存資料 bin logstash e input output 輸入 hello world 輸出 logs...

Logstash的安裝與使用

logstash logstash是elastic技術棧中的乙個技術。它是乙個資料採集引擎,可以從資料庫採集資料到es中。我們可以通過設定自增id主鍵或者時間來控制資料的自動同步,這個id或者時間就是用於給logstash進行識別的 安裝logstash 外掛程式 logstash input jd...

Logstash 安裝部署

訪問elasticsearch官網位址 export servers 3 上傳安裝包到指定目錄 通過ftp工具上傳安裝包到指定目錄 4 解壓安裝包 tar zxvf logstash 6.1.1.tar.gz c export servers 5 重新命名安裝目錄 mv logstash 6.1.1...