MySQL大表優化方案

2022-06-24 15:36:10 字數 2682 閱讀 7712

阿里雲rds for mysql(mysql5.7版本)資料庫業務表每月新增資料量超過千萬,隨著資料量持續增加,我們業務出現大表慢查詢,在業務高峰期主業務表的慢查詢需要幾十秒嚴重影響業務

mysql資料庫本身高度靈活,造成效能不足,嚴重依賴開發人員的表設計能力以及索引優化能力,在這裡給幾點優化建議

最左索引匹配規則

顧名思義就是最左優先,在建立組合索引時,要根據業務需求,where子句中使用最頻繁的一列放在最左邊。復合索引很重要的問題是如何安排列的順序,比如where後面用到c1, c2 這兩個字段,那麼索引的順序是(c1,c2)還是(c2,c1)呢,正確的做法是,重複值越少的越放前面,比如乙個列 95%的值都不重複,那麼一般可以將這個列放最前面

polardb是阿里雲自研的下一代關係型雲資料庫,100%相容mysql儲存容量最高可達100 tb,單庫最多可擴充套件到16個節點,適用於企業多樣化的資料庫應用場景。polardb採用儲存和計算分離的架構,所有計算節點共享乙份資料,提供分鐘級的配置公升降級、秒級的故障恢復、全域性資料一致性和免費的資料備份容災服務。

sysbench效能壓測報告:

分表業務表保留3個月資料(這個根據公司需求來),歷史資料按月分表到歷史庫x-engine儲存引擎表, 為什麼要選用x-engine儲存引擎表,它有什麼優點?

節約成本, x-engine的儲存成本約為innodb的一半

x-engine分層儲存提高qps, 採用層次化的儲存結構,將熱資料與冷資料分別存放在不同的層次中,並預設對冷資料所在層次進行壓縮

x-engine是阿里雲資料庫產品事業部自研的聯機事務處理oltp(on-line transaction processing)資料庫儲存引擎。

x-engine儲存引擎不僅可以無縫對接相容mysql(得益於mysql pluginable storage engine特性),同時x-engine使用分層儲存架構。因為目標是面向大規模的海量資料儲存,提供高併發事務處理能力和降低儲存成本,在大部分大資料量場景下,資料被訪問的機會是不均等的,訪問頻繁的熱資料實際上佔比很少,x-engine根據資料訪問頻度的不同將資料劃分為多個層次,針對每個層次資料的訪問特點,設計對應的儲存結構,寫入合適的儲存裝置

分表之後我們的資料量依然很大,並沒有完全解決我們的慢查詢問題,只是降低了我們業務表的體量,這部分慢查詢我們需要用到polardb的並行查詢優化

polardb mysql 8.0重磅推出並行查詢框架,當您的查詢資料量到達一定閾值,就會自動啟動並行查詢框架,從而使查詢耗時指數級下降

在儲存層將資料分片到不同的執行緒上,多個執行緒平行計算,將結果流水線彙總到匯流排程,最後匯流排程做些簡單歸併返回給使用者,提高查詢效率。

並行查詢(parallel query)利用多核cpu的並行處理能力,以8核32 gb配置為例,示意圖如下所示。

並行查詢適用於大部分select語句,例如大表查詢、多表連線查詢、計算量較大的查詢。對於非常短的查詢,效果不太顯著。

並行查詢用法,使用hint語法可以對單個語句進行控制,例如系統預設關閉並行查詢情況下,但需要對某個高頻的慢sql查詢進行加速,此時就可以使用hint對特定sql進行加速。

select /+parallel(x)/ ... from ...; -- x >0

select /*+ set_var(max_parallel_degree=n) */ * from ... // n > 0

查詢測試:資料庫配置 16核32g 單錶資料量超3千萬

沒加並行查詢之前是4326ms,加了之後是525ms,效能提公升8.24倍

大表慢查詢我們雖然用並行查詢優化提公升了效率,但是一些特定的需求實時報表、實時大屏我們還是無法實現,只能依賴大資料去處理。

這裡推薦大家阿里雲的互動式分析hologre(

千萬級大表優化是根據業務場景,以成本為代價優化的,不是一上來就資料庫水平切分擴充套件,這樣會給運維和業務帶來巨大挑戰,很多時候效果不一定好,我們的資料庫設計、索引優化、分表策略是否做到位了,應該根據業務需求選擇合適的技術去實現。

福祿研發中心群·運維中心

op小雷

MySQL大表優化方案

cubrid 但其工業品質和mysql尚有差距,且需要較大的運維投入,如果想將原始的mysql遷移到可水平擴充套件的新資料庫中,可以考慮一些雲資料庫 阿里雲petadata 阿里雲oceanbase nosql 在mysql上做sharding是一種戴著鐐銬的跳舞,事實上很多大表本身對mysql這種...

MySQL 大表優化方案,收藏了細看!

當 mysql 單錶記錄數過大時,增刪改查效能都會急劇下降,可以參考以下步驟來優化。單錶優化 除非單錶資料未來會一直不斷 否則不要一開始就考慮拆分,拆分會帶來邏輯 部署 運維的各種複雜度,一般以整型值為主的表在千萬級以下,字串為主的表在五百萬以下是沒有太大問題的。而事實上很多時候 mysql 單錶的...

mysql八大優化方案

1 選最實用的字段屬性 建立表的時候,為了獲得更好的效能,可以將表中字段的寬度設定的盡可能小。盡量把字段設定為not null,這樣在執行查詢時,資料庫不用比較null值。對於一些文字字段,例如 省份 性別 可以定義為enum型別。在mysql中,enum型別被當作數值型資料處理,數值型資料處理速度...