Hadoop Flume實時日誌採集元件整合搭建

2021-10-02 16:23:57 字數 1370 閱讀 6363

flume的安裝非常簡單

這就算安裝成功了。。。。。。

開始使用flume

根據資料採集需求配置採集方案,描述在配置檔案中(檔名可任意自定義)

指定採集方案配置檔案,在相應的節點上啟動flume agent

先在flumeconf目錄下新建乙個檔案

vim  安裝路徑/apache-flume-1.6.0-cdh5.14.0-bin/conf/netcat-logger.conf

# 定義這個agent中各元件的名字

a1.sources = r1

a1.sinks = k1

a1.channels = c1

# 描述和配置source元件:r1

a1.sources.r1.type = netcat

a1.sources.r1.bind = 192.168.52.120

a1.sources.r1.port = 44444

# 描述和配置sink元件:k1

a1.sinks.k1.type = logger

# 描述和配置channel元件,此處使用是記憶體快取的方式

a1.channels.c1.type = memory

a1.channels.c1.capacity = 1000

a1.channels.c1.transactioncapacity = 100

# 描述和配置source  channel   sink之間的連線關係

a1.sources.r1.channels = c1

a1.sinks.k1.channel = c1

channel引數解釋:

capacity:預設該通道中最大的可以儲存的event數量

trasactioncapacity:每次最大可以從source中拿到或者送到sink中的event數量

啟動配置檔案:

啟動agent去採集資料

bin/flume-ng agent -c conf -f conf/netcat-logger.conf -n a1  -dflume.root.logger=info,console

-c conf   指定flume自身的配置檔案所在目錄

-f conf/netcat-logger.con  指定我們所描述的採集方案

-n a1  指定我們這個agent的名字

SYLogManager實時日誌

sylogmanager log日誌檢視工具。特點 檢視日誌按鈕可拖動的任意位置 使用介紹 示例 匯入標頭檔案 import sylogmanager.h 初始化配置 sylogmanager.sharelog config sylogmanager.sharelog.email 151311301...

細述 GoAccess實時日誌監控

本文章基於ubuntu16.04系統 nginx1.10.3日誌環境 注 nginx使用apt get方式安裝,日誌格式為預設 原始碼安裝 apt get install gcc g libncursesw5 dev wget tar xzvf goaccess 1.2.tar.gz cd goac...

開源實時日誌分析ELK

2018 01 04 開源實時日誌分析elk平台部署 日誌主要包括系統日誌 應用程式日誌和安全日誌。系統運維和開發人員可以通過日誌了解伺服器軟硬體資訊 檢查配置過程中的錯誤及錯誤發生的原因。經常分析日誌可以了解伺服器的負荷,效能安全性,從而及時採取措施糾正錯誤。通常,日誌被分散的儲存不同的裝置上。如...