Kettle批量同步多張表資料

2022-09-10 21:36:28 字數 502 閱讀 4413

背景

公司想要將業務系統使用的資料庫由 sql server 切換到 oracle,因此需要將原 sql server 庫的資料同步到 oracle 庫中。

因為涉及的資料表有幾百張,資料約百g的級別,一張表開發乙個kettle 太過於繁瑣了,因此考慮通過配置完成資料同步。

方案:sqlserver 庫切換至oracle庫,由於 oracle庫的關鍵字與sqlserver不同,  兩庫的表名和欄位名略有不同,但可以建立一一對應的對映關係。將對映關係資料維護進資料庫的表中。通過sql語句生成查詢語句,將查詢語句以及資料同步的源表、目標表維護進另一張配置表中,kettle讀取配置後,遍歷配置資訊,使用配置資訊替換同步轉換內的引數, 完成資料同步。

整體方案實現圖:

資料同步配置表構成如下:

注意 flag 欄位是用來標識是否執行成功,取值根據需要配置即可。

php mysqli批量查詢多張表資料的方法

注意這裡使用到了兩個新的函式multi query與store result,具體 如下 複製 如下 1 建立資料庫連線物件 mysqli new mysqli localhost root 123456 liuyanwqcswvpd if mysqli connect error wqcswvpd...

kettle批量匯入json資料

kettle新手上路,煩死了,工具好用,批量匯入資料也快,就是有很多小細節需要注意。使用kettle進行資料匯入時,因為最近在做json資料的入庫,以json input為例進行說明 首先是大概流程 我的是這樣,並不是說就必須是這樣。1 導json資料,json input 少不了的,具體怎麼配置通...

kettle支援全表同步 插入同步 更新同步的配置

源表在mysql create table tt id int,name varchar 50 primary key id 目標表pg create table tt id int,name varchar 50 primary key id kettle配置資訊 用來查詢的關鍵字 填入prima...