sqlserver 海量資料匯入的最快方法

2021-04-20 01:49:58 字數 853 閱讀 7260

最近做某專案的資料庫分析,要實現對海量資料的匯入問題,就是最多把200萬條資料一次匯入sqlserver中,如果使用普通的insert語句進行寫出的話,恐怕沒個把小時完不成任務,先是考慮使用bcp,但這是基於命令列的,對使用者來說友好性太差,實際不大可能使用;最後決定使用bulk insert語句實現,bulk insert也可以實現大資料量的匯入,而且可以通過程式設計實現,介面可以做的非常友好,它的速度也很高:匯入100萬條資料不到20秒中,在速度上恐怕無出其右者。

但是使用這種方式也有它的幾個缺點:

1.需要獨佔接受資料的表

2.會產生大量的日誌

3.從中取資料的檔案有格式限制

但相對於它的速度來說,這些缺點都是可以克服的,而且你如果願意犧牲一點速度的話,還可以做更精確的控制,甚至可以控制每一行的插入。

對與產生占用大量空間的日誌的情況,我們可以採取在匯入前動態更改資料庫的日誌方式為大容量日誌記錄恢復模式,這樣就不會記錄日誌了,匯入結束後再恢復原來的資料庫日誌記錄方式。

具體的乙個語句我們可以這樣寫:

alter database taxi

set recovery bulk_logged

bulk insert taxi..detail from 』e:/out.txt』

with (

?? datafiletype = 』char』,

?? fieldterminator = 』,』,

?? rowterminator = 』/n』,

?tablock )

alter database taxi

set recovery full

這個語句將從e:/out.txt匯出資料檔案到資料庫taxi的detail表中。

SQL Server 海量資料匯入的最快方法

最近做某專案的資料庫分析,要實現對海量資料的匯入問題,就是最多把200萬條資料一次匯入sqlserver中,如果使用普通的insert語句進行寫出的話,恐怕沒個把小時完不成任務,先是考慮使用bcp,但這是基於命令列的,對使用者來說友好性太差,實際不大可能使用 最後決定使用bulk insert語句實...

ORACLE海量 批量資料匯入

原理是使用oracle的ctl檔案,然後用系統的命令直接呼叫匯入。測試過匯入幾百個檔案,220分鐘匯入3.7億條,每秒大概2.8萬條。1.ctl檔案模板 2.用服務程式呼叫目標資料夾下的檔案,然後按照ctl檔案模板生成檔案。取相應的配置資訊 執行的命令的函式 public static string...

Sqlserver匯入資料

錯誤 0xc002f210 準備 sql 任務 1 執行查詢 truncate table dbo city 失敗,錯誤如下 無法截斷表 dbo.city 因為該錶正由foreign key 約束引用。失敗的原因可能有 查詢本身有問題 未正確設定 resultset 屬性 未正確設定引數或未正確建立...