阿里總部對外解密雙11超級工程背後的資料庫技術

2021-09-10 10:35:21 字數 2803 閱讀 2557

2023年1月19日,阿里巴巴資料庫事業部聯合技術戰略部在阿里西溪園區總部,也是雙11技術的發源地,舉辦了一場線下《雙11資料庫技術峰會》,超過100名企業cto、cio和資料架構師到場參加,現場座無虛席。

阿里巴巴集團資料庫技術總負責人、阿里研究員張瑞做了開場分享。張瑞2023年加入阿里,前兩天剛剛滿13周年,親歷了阿里整個資料庫技術的變遷和發展。資料庫理論在上世紀70年代被提出,oracle抓住了機會,推出了基於磁碟設計的資料庫。後來,flash技術成熟、pc上cpu能力增強,在這兩個背後推手下,阿里完成了去ioe的資料庫架構公升級。隨著網際網路技術快速發展,分布式大資料也開始衝擊著傳統的關係型資料庫。一直以來,雙11是阿里技術的助推劑,阿里通過分布式資料庫中介軟體擴充套件已經能較好地支援雙十一活動,這個背景下,從2023年阿里巴巴開始思考需要的下一代的資料庫到底是什麼?乙個是已經成熟的分布式架構,乙個是今天與雲結合的很緊密的儲存計算分離技術。雙11極端的壓力下還要優化成本,希望用原來1/10的成本把效能再提公升10倍,今天新的硬體也在快速發展,包括記憶體、fpga、更高效的網路等等。站在當下看未來,資料庫現在又到了技術的最前沿,各種技術百花齊放。最後,張瑞表示,希望和在座的各位一起來探索未來十年資料庫的改變與突破。

阿里資深專家佳毅帶來雙11黑科技分享《資料庫優化之路》。他提到,雙11資料庫面臨三大挑戰:資料強一致的問題、效能問題、成本問題。今年使用阿里新一代資料庫x-db來應對這些挑戰。x-db底層使用自研高效能paxos基礎元件x-paxos,藉此解決資料強一致的問題。對於效能和成本,底層使用batching 和pipelining技術來大大提公升資料庫的事務處理能力。同時佳毅也分享了通過esdb、x-kv等技術解決各種複雜的效能問題,通過容器化與儲存計算分離讓資料庫做到極致彈性,最後佳毅分享了阿里巴巴正在通過clouddba產品大大降低dba服務人力成本的問題。

玄慚是雲上的資料庫效能優化高階專家,同時也是歷年雙十一rds的技術保障負責人,他的分享是《雲資料庫rds雙11最佳實踐》。當使用雲上的rds需要支撐類似雙11這樣的大型活動的時候,玄慚分享了如何從引數優化、鏈路訪問、效能優化、彈性擴容、架構設計,這五個方面去優化資料庫,應對高併發的訪問。

iot是當前最熱門的技術趨勢之一,大量iot裝置產生的時序資料該如何儲存?在接下來阿里時序資料庫高階專家悠你的分享中,以乙個典型的工業iot案例-風電場為案例,介紹了如何使用雲端的高效能時序資料庫hitsdb來儲存大量的時序資料儲存。同時介紹了hitsdb在時序資料處理上的主要優勢,包括聚合查詢、實時響應、海量資料儲存等方面的優秀技術成果。

下午的第一場由阿里資深專家鬥佛帶來《企業資料安全管理最佳實踐》。一直以來,由於資料訪問的隨意,給企業資料帶來非常大的洩露風險,甚至也出現過很多次企業的ceo或者cio為此而被迫辭職的情況發生。硬體損壞、軟體bug、內部資料洩露等等都是企業資料安全的挑戰。鬥佛介紹了阿里巴巴資料安全解決方案如何解決這些問題。同時他透露,對應的阿里雲上即將商業化的「資料管理dms企業版」將把阿里內部的經驗賦能給所有雲上的使用者。

從08年開始,阿里巴巴內部就開始了分庫分表技術的探索,10年來,在內部沉澱的分庫分表資料庫中介軟體產品叫tddl,對應的在雲上的產品為drds。這一次,阿里分布式資料庫技術專家夢實給大家帶來了全新一代的drds引擎,帶了數倍的效能提公升、更複雜的sql能力、更具可讀性的優化器執行計畫等。他還透漏了乙個重磅訊息,新一代引擎將很快發布,並且在今年會對外完全開源。

隨著dt時代的到來,企業占有的資料越來越多,其規模可能達到上百tb甚至pb級,如何以合理的成本管理並維護這樣乙個資料庫也成為各個企業it管理中的核心問題。阿里雲資料庫高階專家南仙的分享《雲資料庫hybriddb htap技術實踐》介紹了如何通過阿里雲資料庫團隊自研的新型htap資料庫,同時支援oltp和olap場景,它基於創新的計算儲存框架,在乙份資料上保證事務的同時支援實時分析,省去了費時的etl過程。

隨著企業業務的發展,內部的資料流動會變成乙個很大的挑戰。阿里資料庫架構師西壁帶來的《資料實時同步解決方案》介紹雙11資料突增時,如何解決阿里內部的資料流動,具體的場景包括異地多活、**大屏、快取更新、實時訊息、新零售混合雲等。如果是阿里雲上的使用者,則可以通過資料傳輸服務dts來解決類似場景的問題。

在最後的圓桌會議環節,多位阿里資料庫技術專家暢談了自己對雙11技術、異地多活、分布式資料庫、分庫分表技術等的展望,同時也回答多個參會者相關的問題。從全國多個城市趕來的參會嘉賓表示不虛此行,直言這是近幾年聽到最純正的技術型會議。

雙11奇蹟背後的大資料平台,不喧嘩,自有聲!

摘要 大資料技術時代,企業爭相數位化轉型,任何成功專案的背後,離不開資料平台的支撐,更別說2135億的大專案,這背後的資料平台要多健壯,多安全,多穩定?00 02 05 成交額超100億 00 57 56 成交額超666億 01 47 26 成交額超1000億 15 49 39 成交額超1682億 ...

雙11奇蹟背後的大資料平台,不喧嘩,自有聲!

00 02 05 成交額超100億 00 57 56 成交額超666億 01 47 26 成交額超1000億 15 49 39 成交額超1682億 22 28 37 成交額超2000億 2018年雙11新紀錄2135億 高速跳轉的數字,不斷重新整理的狀態,光纜中狂奔的 鍵盤上飛舞的手指 新的記錄 絕...

雙11奇蹟背後的大資料平台,不喧嘩,自有聲!

摘要 大資料技術時代,企業爭相數位化轉型,任何成功專案的背後,離不開資料平台的支撐,更別說2135億的大專案,這背後的資料平台要多健壯,多安全,多穩定?00 02 05 成交額超100億 00 57 56 成交額超666億 01 47 26 成交額超1000億 15 49 39 成交額超1682億 ...