資料專家必知必會的7款Python工具

2021-09-22 23:32:17 字數 2281 閱讀 2234

我諮詢了我們真正的資料專家,收集整理了他們認為所有資料專家都應該會的七款 python 工具。the galvanize data science 和 galvanizeu 課程注重讓學生們花大量的時間沉浸在這些技術裡。當你找第乙份工作的時候,你曾經投入的時間而獲得的對工具的深入理解將會使你有更大的優勢。下面就了解它們一下吧:

ipython

ipython 是乙個在多種程式語言之間進行互動計算的命令列 shell,最開始是用 python 開發的,提供增強的內省,富**,擴充套件的 shell 語法,tab 補全,豐富的歷史等功能。ipython 提供了如下特性:

graphlab greate

graphlab greate 是乙個 python 庫,由 c++ 引擎支援,可以快速構建大型高效能資料產品。這有一些關於 graphlab greate 的特點:

pandas

pandas 是乙個開源的軟體,它具有 bsd 的開源許可,為 python 程式語言提供高效能,易用資料結構和資料分析工具。在資料改動和資料預處理方面,python 早已名聲顯赫,但是在資料分析與建模方面,python 是個短板。pands 軟體就填補了這個空白,能讓你用 python 方便地進行你所有資料的處理,而不用轉而選擇更主流的專業語言,例如 r 語言。

整合了勁爆的 ipyton 工具包和其他的庫,它在 python 中進行資料分析的開發環境在處理效能,速度,和相容方面都效能卓越。pands 不會執行重要的建模函式超出線性回歸和面板回歸;對於這些,參考 statsmodel 統計建模工具和 scikit-learn 庫。為了把 python 打造成頂級的統計建模分析環境,我們需要進一步努力,但是我們已經奮鬥在這條路上了。

pulp

線性程式設計是一種優化,其中乙個物件函式被最大程度地限制了。pulp 是乙個用 python 編寫的線性程式設計模型。它能產生線性檔案,能呼叫高度優化的求解器,glpk,coin clp/cbc,cplex,和gurobi,來求解這些線性問題。

matplotlib

matplotlib 是基於 python 的 2d(資料)繪相簿,它產生(輸出)出版級質量的圖表,用於各種列印紙質的原件格式和跨平台的互動式環境。matplotlib 既可以用在 python 指令碼, python 和 ipython 的 shell 介面 (ala matlab® 或 mathematica®),web 應用伺服器,和6類 gui 工具箱。

matplotlib 嘗試使容易事情變得更容易,使困難事情變為可能。你只需要少量幾行**,就可以生成圖表,直方圖,能量光譜(power spectra),柱狀圖,errorcharts,散點圖(scatterplots)等。

為簡化資料繪圖,pyplot 提供乙個類 matlab 的介面介面,尤其是它與 ipython 共同使用時。對於高階使用者,你可以完全定製包括線型,字型屬性,座標屬性等,借助物件導向介面介面,或項 matlab 使用者提供類似(matlab)的介面。

scikit-learn

scikit-learn 是乙個簡單有效地資料探勘和資料分析工具(庫)。關於最值得一提的是,它人人可用,重複用於多種語境。它基於 numpy,scipy 和 mathplotlib 等構建。scikit 採用開源的 bsd 授權協議,同時也可用於商業。scikit-learn 具備如下特性:

spark

spark 由乙個驅動程式構成,它執行使用者的 main 函式並在聚類上執行多個並行操作。spark 最吸引人的地方在於它提供的彈性分布資料集(rdd),那是乙個按照聚類的節點進行分割槽的元素的集合,它可以在平行計算中使用。rdds 可以從乙個 hadoop 檔案系統中的檔案(或者其他的 hadoop 支援的檔案系統的檔案)來建立,或者是驅動程式中其他的已經存在的標量資料集合,把它進行變換。使用者也許想要 spark 在記憶體中永久儲存 rdd,來通過並行操作有效地對 rdd 進行復用。最終,rdds 無法從節點中自動復原。

spark 中第二個吸引人的地方在並行操作中變數的共享。預設情況下,當 spark 在並**況下執行乙個函式作為一組不同節點上的任務時,它把每乙個函式中用到的變數拷貝乙份送到每一任務。有時,乙個變數需要被許多任務和驅動程式共享。spark 支援兩種方式的共享變數:廣播變數,它可以用來在所有的節點上快取資料。另一種方式是累加器,這是一種只能用作執行加法的變數,例如在計數器中和加法運算中。 

開源中國社群

mysql的必知必會 mysql 必知必會 筆記

好久沒有寫了。1 show columns from table 等同於describe table顯示的是表的結構。而select from table 則顯示的是整個表中插入的資料。2 select distinct c1,c2 from table除非列不相同,否則所有行將被檢索出來,即不能對...

資料儲存必知必會

在作業系統出現之後,隨著計算機應用範圍的擴大 需要處理的資料迅速膨脹。最初,資料與程式一樣,以簡單的檔案作為主要儲存形式。以這種方式組織的資料在邏輯上更簡單,但可擴充套件性差,訪問這種資料的程式需要了解資料的具體組織格式。當系統資料量大或者使用者訪問量大時,應用程式還需要解決資料的完整性 一致性以及...

SQL必知必會 過濾資料

where子句 select vend name vend address from test dbo vendors where vend name hanma 注 當有order by 和 where 時,where 在order by 前面 where子句操作符 單個值檢查 select ve...