實時視覺化大資料專案01 專案介紹

2021-10-08 03:31:44 字數 582 閱讀 6857

ogg + filebeat + kafka + logstash + elaticsearch + springboot + echarts + jquery

1、專案是通過beat採集業務系統的日誌,傳送至kafka ,logstash解析日誌存入elaticsearch,

2、另外乙個資料,通過oracle內部的ogg同步至kafka,訊息中中包含insert,update的狀態字段。採集時區分inset和update。由於elaticsearch具有原子性。自己設定好document_id。多次插入和更新都是最新狀態。

3、專案簡單,伺服器6臺,資料量支援上億查詢。

4、時效性能達到秒級別,這是es和採集的beat造成的。

5、一人開發,未進行前後端分離,專案使用的是ajax請求後端。

該專案特別感謝開源軟體的支援。

後續,我將逐步將**貼出來。

感謝你的閱讀!

後續的更新:

2、目錄介紹

3、前端和配置

4、後端**

2023年10大資料視覺化專案

datafocus按 視覺化快發展成一項平民技術了,但是正如一句話說的 好看的皮囊千篇一律,有趣的靈魂萬里挑一 優秀的視覺化作品能直指內心,給你帶來視覺震撼。讓datafocus君帶你一起來欣賞2017年10大優秀視覺化作品吧。奧利維亞 瓦爾奇 olivia walch 用漫畫形式解釋了格里曼 ge...

BI大資料專案的0 1開展模型

在軟體工程的概念裡面,對於乙個資訊系統專案,有幾類開發模型。對於bi大資料專案而言,各種模型各有利弊,對於不同類的企業,也需要不同的開發模型進行資料化運營的實施。下面為大家介紹bi大資料專案的開展使用的模型。下面我們可以結合各類軟體開發模型進行講解 1 瀑布模型 瀑布模型的開發過程是通過設計一系列階...

11 個實戰專案,掌握 Python 資料視覺化

俗語有曰 字不如表,表不如圖。人類天生就是視覺動物。想象一本教科書,如果沒有圖表 插圖或流程圖,將變得更加枯燥和難以理解。視覺效果對於資料分析 傳達結果都有至關重要的作用。資料視覺化就是通過易讀 易懂的圖表,降低使用者的理解難度,從而實現用數字給使用者講個故事的工作目的。看看下面這些作品,你一定會更...