面向機器學習和深度學習的英特爾優化工具和框架

本文介紹了面向機器學習和深度學習的英特爾優化工具和框架，還展示了整合至上述優化工具和框架的英特爾庫（有助於充分利用優化工具和框架，在英特爾® 架構上實現最佳效能）。這些資訊對初次使用的使用者、資料科學家和機器學習工作人員非常實用，能夠幫助他們快速了解英特爾優化工具和框架。

簡介

機器學習 (ml) 屬於一般意義上的人工智慧 (ai)，基於一系列用於資料分析的演算法。深度學習 (dl) 是一項專門的機器學習技術，基於一系列演算法，這些演算法利用包含多個處理層的圖，模擬高階別的資料抽象(

英特爾機器學習和深度學習優化框架是利用深度學習的最簡單的方法。使用英特爾優化工具和框架訓練、部署深度學習，將確保這些工具以最高效的方式利用英特爾® 架構。以下鏈結顯示了面向英特爾架構優化框架的例項，還提供了優化框架速度提公升（相比於未經優化的框架）的**，

和獲取例項)。

從圖中我們可以發現，英特爾機器學習和深度學習解決方案堆疊跨越不同的層。在硬體上開發的高度優化數學庫支援以最高效的方式利用若干英特爾® 處理器產品家族。這些優化的數學庫為更高階別的工具和框架提供了基礎，幫助解決不同領域的機器學習和深度學習問題。

我們將在下一部分簡要總結用於優化框架的英特爾庫和工具。儘管這些工具和庫用於優化面向英特爾框架的機器學習和深度學習框架，也可以將其應用於其他需要高度優化數值例程的應用或軟體包，便於它們利用英特爾® 硬體的向量化、多執行緒和分布式計算功能。

面向機器學習和深度學習的英特爾® 軟體工具

英特爾正積極與開源社群合作，面向英特爾架構優化現有的和全新的框架，還借助庫的強大功能，優化機器學習和深度學習工具，這些庫通過構建模組加速任務。

英特爾開發了 3 個在英特爾上架構上執行的高度優化的庫。

英特爾® 數學核心函式庫（英特爾® mkl）( 提供一系列面向深度學習的高度優化效能基元 (這個庫還包括高度優化（向量化和執行緒化）的功能，使每個英特爾® 處理器產品家族達到最高效能。這些功能針對單核向量化和快取記憶體記憶體利用率而優化，實現多核與眾核處理器的自動並行性。

英特爾 mkl 為常見的數學庫（如 blas、lapack 和 fftw）提供標準 c 和 fortran api，無需更改**。重新連線應用後，英特爾 mkl 將使每個英特爾處理器產品家族的效能達到最高。以最小的付出實現深度學習應用的強大效能。

英特爾 mkl 面向最新版英特爾處理器而優化，包括英特爾® 至強處理器和英特爾® 至強融核™ 處理器。尤其是面向英特爾® 高階向量擴充套件指令集 2 和英特爾® 高階向量擴充套件指令集 512 isa 進行了優化。

面向深度神經網路的英特爾® 數學核心函式庫（英特爾® mkl-dnn）(是一款面向深度學習應用的開源效能庫，用於實現英特爾架構的最高效能。

它提供了經過優化的深度神經網路基元，能夠快速地整合深度學習框架。鼓勵社群開發人員開發新的功能，並在推出英特爾 mkl 版本前，快速應用該功能。因此，深度學習科學家和軟體開發人員都能夠為這個開源庫貢獻出自己的力量，並從中受益。

英特爾® 資料分析加速庫是一款效能庫，由高度優化的演算法構建模組構成，適用於所有的資料分析階段（預處理、轉換、分析、建模、驗證和決策制定）。專門用於常見的資料平台，包括 hadoop*、spark*、r* 等，能夠提高資料訪問的效率。通過英特爾® 效能庫社群許可，可以免費獲取該庫 (

深度學習框架

英特爾機器學習和深度學習優化框架利用上述庫的功能，支援利用英特爾處理器高效地執行訓練和推斷。

英特爾正積極將數學庫整合至各種框架，使這些框架的使用者可以在英特爾處理器上高效地執行深度學習訓練和推斷任務。例如，英特爾® caffe* 分發包和英特爾® theano* 優化包整合了最新版英特爾 mkl。英特爾正將多模功能整合至這些框架，以在多個節點間分配訓練工作負載，減少總體訓練時間。

以下結構圖顯示了上述不同的庫和框架之間的互動，以及如何在若干優化庫中將英特爾 mkl 和英特爾 mkl-dnn 庫用作構建模組。