使用flume進行日誌收集的總結 1

2021-07-22 14:13:28 字數 1057 閱讀 3197

由於最近幾個月在搞乙個實時監控平台的專案,用的是flume+kafka+spark,之前領導說弄個文件總結一下專案開發中的用到技術以及容易出錯的地方,以供之後的新手們參考(其實我也才接觸了幾個月而已),現在才有時間弄文件,順便也發個部落格記錄一下(**篇),畢竟當初我也是不斷在網上查資料的

由於網上對於flume的簡介很多,這裡就不多做贅述了,直奔主題,flume的安裝就不說了,直接解壓就可以了,解壓之後需要修改一下配置檔案

①cp flume-conf.properties.template  flume-conf.properties  

②vi flume-conf.properties

接下來就是配置flume的source,channel和sink

source配置:

channel配置:

sink配置:

彙總的flume的kafkasink配置:

接下來簡單說說flume的***,flume提供了許多***,當source指定乙個***後,***會得到event資料,可以在***中過濾提取資料,乙個source可以指定多個***形成***chain

***配置

FLUME日誌收集

flume是乙個分布式 可靠 和高可用的海量日誌聚合的系統,支援在系統中定製各類資料傳送方,用於收集資料 同時,flume提供對資料進行簡單處理,並寫到各種資料接受方 可定製 的能力。1 可靠性 當節點出現故障時,日誌能夠被傳送到其他節點上而不會丟失。flume提供了三種級別的可靠性保障,從強到弱依...

日誌收集 Flume

乙個flume程序就是乙個agent source channel sink 在source channel sink之間流動的是list exent event header byte payload,一般header是空的,傳輸資料的單位 flume串聯的壞處 乙個壞了全壞 好處 多級緩衝 處理...

flume (日誌收集系統)

flume 日誌收集系統 flume是cloudera提供的乙個高可用的,高可靠的,分布式的海量日誌採集 聚合和傳輸的系統,flume支援在日誌系統中定製各類資料傳送方,用於收集資料 同時,flume提供對資料進行簡單處理,並寫到各種資料接受方 可定製 的能力。當前flume有兩個版本flume 0...