壓縮對於時序資料庫是至關重要的。因為時序資料庫面對的物聯網場景每天都會產生上億條資料。眾所周知，在大資料時代的今天資料的重要性是不言而喻的，資料就是公司的未來。但如果無法對這些時序資料進行很好的管理和壓縮，那將給客戶帶來非常高的成本壓力。
如前文提到的，工業物聯網環境監控方向的客戶，一年產生1p的資料，如果每台伺服器10t的硬碟，那麼總共需要100多台。按照每台伺服器3萬來算，一年就需要300萬的支出，這還不包括維護人員的成本。
壓縮是個非常大的話題，本文希望能夠先從大的巨集觀角度給出乙個輪廓，講述壓縮的本質，壓縮的可計算性問題。再從時序資料壓縮這乙個垂直領域，給出無失真壓縮和有失真壓縮各乙個例子進行說明，希望能夠拋磚引玉。
1.壓縮的故事
先來講個有關壓縮的故事，外星人拜訪地球，看中了大英百科全書，想要把這套書帶回去。但這套書太大，飛船放不下。於是外星人根據飛船的長度，在飛船上畫了乙個點。這樣外星人心滿意足的返回了自己的星球，因為這個點就儲存了整個大英百科全書。
這個並不是很嚴謹的故事，卻道出了壓縮的本質：用計算時間換取儲存空間。外星人在飛船上畫的點非常有技術含量，可以說是黑科技，代表乙個位數非常長的不迴圈小數。而這串數字正代表了整個大英百科全書的內容。
2.壓縮的兩個問題
再來回答兩個巨集觀的問題，幫助我們認識在壓縮這件事上哪些是我們能做的，哪些是不能做的。
第乙個問題：是否存在乙個通用的壓縮演算法（universal compression），也就是說某個壓縮演算法能夠壓縮任意的資料。答案是否定的，並不存在這樣的通用壓縮演算法。
用反證法可以做個快速的證明。假設存在通用的壓縮演算法，也就是說有個壓縮演算法，對於長度為n的字串，總能壓縮到長度小於n的字串。
那麼必定存在兩個長度為n的字串a,b，經過壓縮得到同乙個字串。這樣解壓縮演算法沒有辦法正確的解壓。所以假設錯誤，並不存在通用的壓縮演算法。
這兩個問題的答案，告訴我們三件事情，1、壓縮演算法的選擇需要具體情況具體分析，不可壓縮的字串總是存在。2、不要妄圖獲得最好的壓縮演算法，它是不可計算的。因為總有你想不到的壓縮演算法存在。舉個例子，[一百萬個0的字串，以「foo」作為key，經過aes加密演算法的cbc模式得到的字串]。這串字串看起來完全是隨機的，不可壓縮的。但我卻用43個中文（中括號之間的內容）就表示了出來。3、壓縮是件很難很有技術含量的事情，需要不斷的挖掘，才能將他做到更好。
3.時序資料壓縮如果要得到更好的壓縮率，我們需要採取更加適合時序資料的壓縮演算法。時序資料的壓縮可以分為無失真壓縮和有失真壓縮。
無失真壓縮
無失真壓縮是說被壓縮的資料和解壓後的資料完全一樣，不存在精度的損失。對資料的壓縮說到底是對資料規律性的總結。時序資料的規律可以總結為兩點：1、timestamp穩定遞增、2、數值有規律性，變化穩定。下面來舉個例子。
上圖是一組時序資料，如果我們一行一行的看感覺壓縮有點困難，但如果我們一列一列的看，壓縮方案就呼之欲出了。
先看timestamp那一列是等差遞增數列，可以用[1467627245000,1000,4]來表示。
1467627245000代表了第乙個時間，1000代表後乙個時間比前乙個時間的大1000，4代表了這樣的規律出現了4次。如果一共有100個這樣規律的timestamp，那就意味著，我們用3個long型就可以表示出來。timestamp壓縮率高達33。
再進一步觀察看value那一列，如果取差值，可以得到（6，-5，2，-5），全部都加5得到（11，0，7，0），這些數值都可以用4bit來表示。也就是用[23,5,4,0xb0700000]來表示（23，22，24，25，24）。其中的4代表後續一共有4個數。如果這樣的規律一直維持到100個int的value，就可以用16個int來代表，壓縮率高達6.3。
具體的情景會複雜很多，在此只是簡單舉個例子。influxdb無失真壓縮演算法在其頁面上有完整的闡述（注3），可以配合開源原始碼進行更加深入的理解。針對於浮點數型別，facebook在gorilla**中（注4）提到的非常高效的無失真壓縮演算法，已經有很多文章進行分析。
influxdb對於浮點型也採用這個演算法。
有失真壓縮
有失真壓縮的意思是說解壓後的資料和被壓縮的資料在精度上有損失，主要針對於浮點數。通常都會設定乙個壓縮精度，控制精度損失。時序資料的有失真壓縮的思路是擬合。也就是用一條線盡可能的匹配到這些點，可以是直線，也可以是曲線。
最有名的時序資料有失真壓縮是soisoft公司的sda演算法，中文稱為旋轉門壓縮演算法。
在上圖中，紅色的點是上乙個記錄的點，空心的點是被丟掉的點，綠色的點是當前的點，黑色的點是當前要記錄的點。
可以看到圖左邊，當前點和上乙個記錄點以及壓縮精度的偏差值形成的矩形可以包含中間的點，所以這些點都是可以丟掉的。
再看圖右邊，當前點和上乙個記錄點形成的矩形無法包含中間的點，所以把上乙個點記錄下來。如此進行下去，可以看到，大部分的資料點都會被丟掉。查詢的時候需要根據記錄的點把丟掉的點在插值找回來。
有失真壓縮除了可以大幅減少儲存成本。如果結合裝置端的能力，甚至可以減少資料的寫入，降低網路頻寬。
4.總結
雖然判斷壓縮演算法最優是不可計算的，但是設計好的壓縮演算法仍然是可計算的問題。可以看到，前面提到的時序資料的無失真壓縮有損壓縮演算法都會基於時序資料的特徵採取方案，達到更好的壓縮率。現在deep learning非常的火，讓人很好奇它是不是可以給資料壓縮帶來新的方案。
注1：注2：
注3：注4：
十分鐘看懂時序資料庫（III） 壓縮
壓縮對於時序資料庫是至關重要的。因為時序資料庫面對的物聯網場景每天都會產生上億條資料。眾所周知，在大資料時代的今天資料的重要性是不言而喻的，資料就是公司的未來。但如果無法對這些時序資料進行很好的管理和壓縮，那將給客戶帶來非常高的成本壓力。如前文提到的，工業物聯網環境監控方向的客戶，一年產生1p的資料...
十分鐘看懂時序資料庫（IV） 分級儲存
本文將介紹通過對資料進行分級儲存，從使用不同儲存介質，以及減少資料的副本數的方面，介紹如何在保證時序資料的查詢效能的前提下，降低時序資料的儲存成本。1.分級儲存 分級儲存，就是按某一特徵，將資料劃分為不同的級別，每個級別的資料儲存在不同成本的儲存介質上。為什麼需要對資料進行分級儲存？為什麼不把所有的...
十分鐘看懂時序資料庫（II） 預處理
本文會從時序資料庫的查詢以及聚合運算角度展開，最後從如何解決時序資料的查詢問題入手深入分析。使用者對時序資料的查詢場景多種多樣，總的來說時序資料的查詢分為兩種 原始資料的查詢和時序資料聚合運算的查詢。前者是對歷史高精度時序資料的查詢，查詢結果粒度太細，並不利於發現其規律性，趨勢性 也不適合展現給使用...