ETL 迴圈匯入 平面檔案

2022-03-14 17:13:07 字數 786 閱讀 6408

etl設計之-foreach 迴圈容器

應用場景:

批量匯入某一資料夾下的所有檔案.就可以用foreach迴圈容器裡面的檔案列舉。

要求:需要把d:/temp目錄下所有csv匯入某乙個表。如下圖:

步驟:1、在控制流中拖拽乙個foreach迴圈容器。如下圖:

2、配置foreach迴圈容器。

說明:選擇列舉:foreach 檔案列舉器

選擇資料夾: d:/temp

需要新建乙個foreach迴圈變數,未傳遞給平面檔案的路徑。

3、配置平面檔案入庫。

a、在控制流中拖拽乙個資料流任務在foreach迴圈容器中,如下圖:

b、配置資料流任務的平面檔案。雙擊控制流,進入資料流。

1)選擇平面檔案管理器,如下圖:

2)配置oldb目標,環境如下圖:

4、執行該包,如下圖:

5、包成功匯入完成,檢視資料庫資料:

匯入資料中間會出現 欄位被截斷的錯誤,請參照下面的方法解決。

1 故障分析: 

理由很簡單,預設的平檔案,每個欄位的寬度是50, 

如果你的平面資料來源的字段超過這個,則會出現上面這個錯誤。 

2 解決方案:

也很簡單,在資料來源的高階裡面(也就是文字的高階設定),手工設定每個字段允許的最大寬度就行了.

而不是設定資料庫表的這個字段長度。

MS SQL匯入平面檔案源

ms sql不支援備份 還原單個表,可是匯入平面檔案源的資料也忒麻煩了一點。經過試驗,總結匯入平面檔案源資料的經驗如下 1 一定要在資料庫所在的機器上進行匯入。在另一台機器上訪問目標資料庫並進行匯入,即使帳號是 sa,也照樣不成功 2 原始檔裡的列要盡可能跟目標表的型別 長度一致 這個可以在 選擇資...

ETL 匯入資料問題

2006 12 20 解決原始檔excel檔案列為數字時無法匯入數字字母組合,日期格式中有 中午 時,在原始檔也就是匯入excel資料時就對這些列進行更改 在源列加 a 然後在匯入倒sql時,對這些列去除多餘部分 操作如下 declare a varchar 30 set a 2007 1 30 上...

shell 平面檔案

1,先在乙個檔案中寫入乙個標準模板 平面檔案flat file 命名為my flat file joker account password for userid remaining 2,然後在指令碼中確定一些變數的值 joker 12312314 userid 33333 remaining as...