關於資料批量入庫解決方案

2021-08-26 01:26:13 字數 754 閱讀 9073

關於程式批量入庫解決方案

下面小弟關於最近的乙個批量入庫解決辦法與大家分享一下,由於是第一次部落格,有什麼不對,請大家多多指教

最近專案用到了大併發寫資料庫操作,當用只做了單條資料 commit 一次,這樣做插入會很慢,資料庫的壓力也很大 , 當時自己的第乙個想法就是改變提交方式, 10 條或 100 條提交一次,但是這樣會有乙個問題,如果資料始終達不到指定的數量,就不能提交。對後續的資料處理會有延遲。

採用資料表做資料補全解決方案:

與運維對接伺服器配置與佈署過程中,運維提出來了資料庫寫入批量提交方案,提到使用 mongodb ,但是我對此東西只聽過沒有研究過,以現在的技術水平非得研究個個把月的才能弄明白,所以自己想到了定時將資料稱寫入到檔案,程式定時去刷到資料庫中 ( 業務需求允許資料有一定的延遲性 10 鐘以內 ), 開始我的解決方案時新生成乙個資料檔案,在資料庫中插入一條記錄,並標識狀態為正在寫檔案,下一時間段新生成的檔案重負此步驟,並更新上次寫入檔案的狀態為可寫入資料庫,程式定時器定時讀資料庫,寫入指定的檔案,並把對應的檔案寫入資料庫,把記錄狀態更新為已入庫,此方案有乙個問題我寫完了才想明白,將來佈署時會用的集群,這樣集群中的程式訪問的是乙個資料庫,如果集群 1 寫完了自己的檔案,並更新了資料庫,那麼集群 2 在起動任務時,在資料庫找不到可入庫的檔案,這樣就導致集群 2 的檔案並沒有入庫成功,這樣就導致資料的丟失。最後的解決方案不用資料庫,程式自讀各的檔案,在入庫成功後,將檔案的檔案改名,加統一的字尾,這樣如果程式失敗或當機,可以按檔名來區寫入的狀態,方便來補資料。這樣資料可以保證不丟失。

關於資料批量入庫解決方案

關於程式批量入庫解決方案 下面小弟關於最近的乙個批量入庫解決辦法與大家分享一下,由於是第一次部落格,有什麼不對,請大家多多指教 最近專案用到了大併發寫資料庫操作,當用只做了單條資料commit一次,這樣做插入會很慢,資料庫的壓力也很大,當時自己的第乙個想法就是改變提交方式,10條或100條提交一次,...

gorm批量插入解決方案

我有乙個朋友,最近用gorm發現官方不支援批量插入,看官方issue 2014年就有人提過這個問題了,不過現在還不支援 但是問題不大,官方留出來乙個執行原生sql db.exec 的方法來解決這個問題,而且官方現在在開發v2版本,在v2版本中就會支援這個功能了 但是生活還得繼續,bug還是得繼續寫,...

批量錄入快遞位址解決方案

電商 erp等軟體系統下單環節,批量錄入收件人資訊及位址,通常會碰到諸如位址不完整 位址不規範 收件人資訊與位址寫一起需要區分開 逐個錄入效率過低等問題。下面介紹幾個批量錄入收件人資訊及位址的解決方案。收件人資訊有誤場景 1.收件人資訊填寫不完整,如 四川成華區和美西路19號,李一,13512341...