Logstash多output將字段輸出到本地磁碟

2021-10-07 07:16:52 字數 882 閱讀 1057

二、logstash的output配置

三、參考文件

前段時間為公司做了乙個日誌系統,

日誌資料流:filebeat——>kafka——>logstash——>elasticsearch——>kibana

centos 7

filebeat 7.4

logstash 7.4

elasticsearch 7.4

kibana 7.4

kafka_2.13-2.5.0.tgz

因為這個日誌收集系統丟資料!!!

而且丟了資料還沒有相關日誌輸出,filebeat、kafka、logstash、es,還包括系統的message日誌都沒有記錄丟資料的日誌,根本不知道是在哪個環節丟的!!!

於是我司英俊帥氣的架構師就想到了在應用日誌中自定義輸出唯一的日誌id,保證每一條需要收集的日誌id都是獨一無二不會重複的,將此id在logstash環節落盤,看被丟棄的日誌是否走到了logstash環節。

於是我就需要想辦法在logstash環節將id輸出到本地,於是就找到了logstash多output+csv外掛程式。

output _%"

template => "/etc/logstash/geoip-template.json"

template_name => "nginx_geoip"

template_overwrite => true}}

elasticsearch __%_%"}}

else _%"}}

}output .csv"

fields => ["[單號]"]}}

}

官方文件

Logstash詳解之 output模組

logstash的output模組,相比於input模組來說是乙個輸出模組,output模組整合了大量的輸出外掛程式,可以輸出到指定檔案,也可輸出到指定的網路埠,當然也可以輸出資料到es.在這裡我只介紹如何輸出到es,至於如何輸出到埠和指定檔案,有很多的文件資料可查詢.elasticsearch d...

output經典使用

output是sql server2005的新特性.可以從資料修改語句中返回輸出.可以看作是 返回結果的dml insert,delete,update均支援 output子句.在output子句中,可以引用特殊表inserted和deleted.使用inserted和deleted表與在觸發器中使...

Logstash學習1 logstash的簡單例子

如何安裝elk redis外掛程式 logstash f test.conf config.test and exit 會列印出錯誤並且會自動退出 7.測試顯示ok的話。執行 logstash f first pipeline.conf config.reload.automatic 這個配置可以使...