c 大資料量比較時 方案

2021-06-18 05:13:56 字數 818 閱讀 9243

1、當面臨千萬條資料量的比較時,從技術的角度來說應該用泛型鍵值(c#鍵值由於用了雜湊演算法速度很快)。例如前幾天我需要查的是 航空公司、出發、到達、返點可以將 航空公司-出發-到達做乙個鍵,返點作為值。

if (dtsourcebt.rows.count > 0

)

else

}}

2、從業務角度來優化,這點很重要。因為所以的程式都不是孤立的。根據業務要求如果這樣做

第一、查出所以的資料(將近5萬條資料)

string sqlbt = "select zrateid, departureport,arrivalport,airwaycompanycode,cabincode,ratevalue,flightnumber,noflightnumber from b2b_zrate_new where state=1  and issuedtodate>=convert(varchar(10),getdate(),120) and outpattern!=3 order by ratevalue desc";

datatable dtsourcebt = dbhelper.exeall116(sqlbt);

第二、通過航空公司篩調一部分資料(剩下3千條資料)

datarow drbts = dtsourcebt.select(" airwaycompanycode='" + dr["aircompany"] + "'"); 第

三、再去比較,這樣資料量變小了。速度就快多了

foreach (datarow drbt in

drbts)}}

}

兩張大資料量表大資料量的比較

rdd兩張大資料量表大資料量的比較 大批量資料驗證的範圍。核心唯一驗證。範圍內 單位範圍內的所有人員快取。比較匯入的表內的人員是否在這個人員快取。如果不在那就顯示錯誤提示。匯入的人員就不會超過這個範圍也就限制了運算元據的範圍。對於儲存表,驗證當月這個單位內的所有記錄裡是否已經存在同規則的記錄。這個人...

大資料量資料分頁查詢優化方案

在實際場景中會遇到這樣的一種情況 資料量很大,而且還要分頁查詢,如果資料量達到百萬級別之後,效能會急劇下降,導致查詢時間很長,甚至是超時。接下來我總結了兩種常用的優化方案,僅供參考。但是需要注意的是有個前提 主鍵id是遞增且資料有序。1 使用子查詢優化 這種方式先定位偏移位置的 id,然後往後查詢,...

大資料量演算法

給40億個不重複的unsigned int的整數,沒排過序的,然後再給乙個數,如何快速判斷這個數是否在那40億個數當中 位圖思想解法 include stdio.h include stdlib.h include memory.h define max num 4294967295 int mai...