Flume 小記 一 入門 小結 注意事項

2021-07-25 05:07:25 字數 688 閱讀 7009

flume 的安裝,介紹,特性,核心概念等在這就不再贅述,請參考  ,作者的介紹和案例都比較詳細

這次主要拿 flume 的httpsource 做案例,用到了 file roll sink , hdfs sink, 以實現將http 的請求體 存到本地、 存到hdfs、及存到  hive庫的目的

httpsource 的案例請參考   (需注意裡面的http_test.conf 配置有一處拼寫錯誤)

注意幾點: 

(1) httpsource  source 預設採用的handler 是 org.apache.flume.source.http.jsonhandler , 它的接收體是 list, 換言之它的接收體 是乙個jsonarray,而且是有固定格式的 jsonarray, 其格式為 

[,"body":"the first event"},,"body":"the second event"}], 即最外層必須是 

, header 是乙個鍵值對map ,body 則是個字串 ,例如 想傳送這樣的json串, 應寫成 ["}]

(2) 控制台在輸出日誌時,僅輸出body資料16位元組內的資料,大於16位元組將不會顯示,但其實是完整收到了

(3) 需要自定義請求格式,只需自定義handler實現 httpsourcehandler ,並重寫其 getevents() 方法即可

參考 

flume入門配置 簡單例項(一)

一 基本概念 1.source 2.channel 3.sink 二 配置檔案 通常寫在 conf下。舉個例子 在flume目錄下 vi conf flume conf.properties 1.寫source channel sink名字 2.確定哪個source連線哪個channel 哪個cha...

windows mysql 安裝的一些注意事項

以管理員身份執行,在命令列輸入cd mysql的bin目錄的安裝路徑 c windows system32 cd c program files mysql mysql server5.6 bin c program files mysql mysql server5.6 bin mysqld re...

BigDecimal中要注意的一些事

一 關於public bigdecimal double val bigdecimal中三個主要的建構函式 1public bigdecimal double val 將double表示形式轉換為bigdecimal 不推薦2 public bigdecimal int val 將int表示形式轉換...