微服務輪子專案(07) 日誌解決方案設計

2021-10-12 01:43:40 字數 802 閱讀 7121

4 總結

下面先附上一張解決方案圖:

說明:這種架構是比較原始的部署架構,在各應用伺服器端分別部署乙個logstash元件,作為日誌收集器,然後將logstash收集到的資料過濾、分析、格式化處理後傳送至elasticsearch儲存,最後使用kibana進行視覺化展示,這種架構不足的是:logstash比較耗伺服器資源,所以會增加應用伺服器端的負載壓力。

該架構與第一種架構唯一不同的是:應用端日誌收集器換成了filebeat,filebeat輕量,占用伺服器資源少,所以使用filebeat作為應用伺服器端的日誌收集器,一般filebeat會配合logstash一起使用,這種部署方式也是目前最常用的架構。

該架構在第二種架構的基礎上引入了kafka訊息佇列(還可以是其他訊息佇列),將filebeat收集到的資料傳送至kafka,然後在通過logstasth讀取kafka中的資料,這種架構主要是解決大資料量下的日誌收集方案,使用快取佇列主要是解決資料安全與均衡logstash與elasticsearch負載壓力。

以上三種架構總結:

微服務輪子專案(14) 慢查詢SQL

在前面一篇部落格 微服務輪子專案 13 統一日誌中心詳解 docker安裝部署 主要講解了在docker下部署elk,以及各個元件的作用 包括filebeat step1 修改資料庫配置,增加慢sql日誌 vim etc my.cnf 是否開啟慢查詢日誌 slow query log on 日誌存放...

2018 04 02 日誌服務業內解決方案

不管什麼樣的應用,都會產生日誌,而如何使用這些日誌就成了每個公司都必須面對的問題。本文帶著上面的問題,總結了一些業界已有的解決方案,期望能夠釐定和日誌相關的功能的邊界,而不至於思維特別發散導致無從下手。日誌服務正在內測 日誌服務 包括logtail 實時採集 消費組管理 查詢 告警 dashboar...

電商總結(二)日誌與監控系統的解決方案

前一篇文章聊到了小型電商 的系統架構,然後有朋友問我,裡面的日誌與監控指的是啥,所以,今天就來聊聊這個問題。監控系統主要用於伺服器集群的資源和效能監控以及應用異常和效能監控,日誌管理等多維度的效能監控分析。乙個完善的監控系統和日誌系統對於乙個系統的重要性不必我多說,總而言之就一句話,只有實時了解各系...