資料同步方案

2021-09-27 04:20:12 字數 753 閱讀 3552

三、軟體選擇

同步分為:實時同步和離線同步

實時同步,一般是通過監控源資料變更操作,通過在目標端實時重放操作,從而達到實時同步的目的

離線同步,相當於某個時候對源資料做乙個快照。

mysql自帶功能

一般針對的是整個資料庫

參考:主主同步

同步型別:實時同步

簡介:kafka是訊息中介軟體的一種

開發商:apache

開源:優點:高吞吐量:即使是非常普通的硬體kafka也可以支援每秒數十萬的訊息。

缺點:配置複雜點,訊息可能重複,低概率丟資料

參考:同步型別:實時同步

簡介:基於資料庫增量日誌解析,提供增量資料訂閱&消費,目前主要支援了mysql

開發商:阿里

開源:優點:canal + otter 非常適合mysql庫之間的同步。有視覺化介面

缺點:配置複雜點

參考:demo

同步型別:離線同步

簡介:datax在阿里巴巴集團內被廣泛使用,承擔了所有大資料的離線同步業務,並已持續穩定執行了6年之久。目前每天完成同步8w多道作業,每日傳輸資料量超過300tb

開發商:阿里

開源:優點:配置簡單,使用成本小

缺點:不能實時同步,不支援增量更新

參考:增量更新:

同步型別:實時同步

開源:優點:圖形化介面

缺點:速度慢 3k-2w條/秒

指定資料庫同步,定時同步等任務

資料同步方案

作為業務系統的開發設計人員,資料及資料同步是非常重要的工作之一。在日常的軟體開發過程中,經常會碰到推送和拉取等業務。那麼一開始如何選用推送或拉取這兩個方案呢?這是由實際業務決定 雙方系統的技術實現 雙方系統的架構和效能,看日後是否此業務會經常修改等多方面決定的。下面本文就從實際的兩個業務情況來討論。...

es同步mysql方案 ES資料同步方案

當業務量上公升後,由於mysql對全文檢索或模糊查詢支援的能力不強,在系統中查詢的地方,往往會出現慢sql等,拖累系統其他模組,造成效能低下。隨著es使用普及率的公升高,es是mysql的乙個有效補充。我們可以將資料傳送到搜尋引擎 如es 上,由搜尋引擎來提供專業的服務。接下來,就結合工作中實際用到...

資料同步方案思考

yahoo的pnuts的資料同步 基於行的mastership 通過 去以非同步方式同步那些 資料。首先,應用更新請求到達 根據 對映到某乙個 去向 傳送資料更新訊息,做到安全儲存資料 可能是互備訊息 然後響應 這時候寫入資料,然後向 返回響應,然後向應用傳送響應。同步時機有 控制,估計最終一致時間...