大資料體系

2021-09-29 04:55:07 字數 635 閱讀 3732

大資料系統體系:資料採集、資料計算、資料服務、資料應用

一. 資料採集層:

(1)web端日誌採集技術方案:aplus.js

(3)把資料從生產業務端傳輸到大資料系統:timetunnel 包括資料庫增量資料傳輸 / 日誌傳輸 / 實時流式傳輸 / 各時間視窗的批量傳輸

二. 資料計算層:

(1)離線計算平台:maxcomputer

(2)流式大資料平台:streamcomputer

(3)資料管理的方法體系及工具:onedata

(4)資料倉儲:傳統資料倉儲(加工週期為年/月/周/日 t-1/小時)、實時資料倉儲

三. 資料服務層:

1)對外提供資料服務通過資料服務平台:oneservice 以資料倉儲整合計算好的資料作為資料來源,以對外提供介面的方式提供簡單資料查詢、複雜資料查詢、實時資料推送等資料服務。

四:資料應用層:

1)對內應用:

2)對外產品:生意參謀

大資料技術生態體系

1 sqoop sqoop是一款開源的工具,主要用於在hadoop hive與傳統的資料庫 mysql 間進行資料的傳遞,可以將乙個關係型資料庫 例如 mysql,oracle 等 中的資料導進到hadoop的hdfs中,也可以將hdfs的資料導進到關係型資料庫中。2 flume flume是clo...

大資料技術生態體系

大資料技術生態體系如圖2 26所示。圖中涉及的技術名詞解釋如下 1 sqoop sqoop是一款開源的工具,主要用於在hadoop hive與傳統的資料庫 mysql 間進行資料的傳遞,可以將乙個關係型資料庫 例如 mysql,oracle 等 中的資料導進到hadoop的hdfs中,也可以將hdf...

大資料技術生態體系

大資料技術生態體系結構如下 圖中涉及的技術名詞解釋如下 1 sqoop sqoop是一款開源的工具,主要用於在hadoop hive與傳統的資料庫 mysql 間進行資料的傳遞,可以將乙個關係型資料庫 例如 mysql,oracle 等 中的資料導進到hadoop的hdfs中,也可以將hdfs的資料...