(五)ELK系列之Filebeat搭建

2021-10-01 03:35:07 字數 1445 閱讀 3526

(一)elk系列之elk介紹

(二)elk系列之elasticsearch搭建

(三)elk系列之kibana搭建

(四)elk系列之logstash搭建

1、filebeat包準備

提取碼:fbjo

當然也可以直接用wget在linux裡面獲取

[root@es1_master_node_test ~]# wget

安裝好後進到配置檔案

[root@es3_data_node2_test filebeat]# vim /etc/filebeat/filebeat.yml

進行以下配置

你可以對多個日誌進行採集,以document_type來進行區分

為了測試,新增下面兩行

output.console:  # 指定在終端上輸出日誌資訊

enable: true

儲存後退出

測試之前確定沒有開啟filebeat,否則會報乙個程序衝突的錯誤

[root@es1_master_node_test ~]# /usr/share/filebeat/bin/filebeat -c /etc/filebeat/filebeat.yml

這裡我配置的是ng的日誌,能看到日誌直接列印在終端螢幕上

證明測試成功,此時回到配置檔案,把這個測試的兩行注釋掉,

這裡我用到的架構是通過filebeat採集日誌傳輸給logstash去過濾,所以這裡的output的項如下配置,其中hosts填寫的是logstash伺服器的ip

配置好後就可以去logstash伺服器進行配置,生成乙個對應的新的conf檔案,當然也可以不用生成,但是為了區分,在這裡我單獨對filebeat採集到的ng日誌區分

詳細過濾配置如下

在logstash配置檔案logstash.yml中配置這一條

配置完成後,重啟logstash和filebeat服務

去es伺服器檢視是否有新配置的索引ngaccrss-*和ngerror-*

可以看到有索引了,那麼從filebeat-->logstash-->es徹底連通了,接下來去kibana裡面新增索引,在(三)elk系列之kibana搭建中已經有說明,此處就不再重複

此處畫個重點,收集的日誌檔案以及所屬資料夾一定要給足許可權,不然會出現filebeat一直收集不了的情況

ELK日誌處理之Filebeat工作原理

beats是elastic stack技術棧中輕量級的日誌採集器,beats家族包括以下五個成員 elk架構中使用logstash收集 解析日誌,但是logstash對記憶體 cpu io等資源消耗比較高。相比 logstash,beats所佔系統的cpu和記憶體幾乎可以忽略不計。elasticse...

ELK日誌處理之Filebeat工作原理

beats是elastic stack技術棧中輕量級的日誌採集器,beats家族包括以下五個成員 filebeat 輕量級的日誌採集器,可用於收集檔案資料。metricbeat 5.0版本之前名為topbeat,蒐集系統 程序和檔案系統級別的 cpu 和記憶體使用情況等資料。packetbeat 收...

(一)ELK系列之ELK介紹

elk介紹 elk簡介 隨著業務的不斷擴大,伺服器的不斷增加,各種服務的不斷增加,相應的日誌量也大量增加,訪問日誌 應用日誌 錯誤日誌種類繁多。從兩個角度進行分析 1 開發人員的角度來說,還需要去到伺服器上檢視繁多的日誌,無法高效的定位問題所在,所以並不方便 2 運營人員的角度來說,他們也需要獲取一...