近年來，深度學習在人體感知方面（如視覺、聽覺和理解）的應用有著顯著的效果，許多人也躍躍欲試將其應用到傳統領域，希望能給這些領域帶來改變。老山也打算發表乙個系列，歷數深度學習在其他領域的應用。本系列不定期更新，不保證不太監，各個領域老山也只能管中窺豹，不全面、不準確之處還請大家諒解。
本期的話題是深度學習能否用於密碼破解呢？
老山的答案是不能，或者是不實際。當然所有解答的前提是概念範疇的統一，為了說明這個問題，我們從基礎開始，逐步說明原因。
在本節中，撇開了前饋神經網路的生物意義，著眼於其數學理論。對於樣本集(xi,yi) xi∈x, yi∈y，其中x,y分別是輸入域和輸出域。機器學習的目的尋找函式f:x→y使得f(xi)=yi成立或者更好的成立。比如對於貓狗分類問題，就是去尋找函式f，使得f(貓1)=貓,...。而神經網路作為機器學習的方法的一種，無非是給定了函式f的構造方法。我們下面就從神經元開始，講解前饋神經網路如何進行函式構造。
對於單層的第j個神經元，我們有：
對於整個單層，寫成矩陣形式，有：
對於簡單的前饋神經網路，最終建構函式為各層函式的復合函式：
其中是啟用函式ρ，是讓建構函式增加非線性部分的。沒有啟用函式，最終建構函式是線性函式的復合函式，仍然是線性函式。所以啟用函式的基本要求是非線性。但對於常見的啟用函式，如sigmoid函式和relu函式，除了非線性外，一般還都是連續函式，所以最終構造的函式也具有連續性。
這給定了深度學習網路的數學背景。證明過程涉及了許多泛函理論的知識，結果乍看上去比較神奇，但其實是相對平凡的。事實上，我們可以用折線來逼近任意曲線，只要折線的控制點足夠多。我們也可以使用樣條函式、基函式等方式去逼近任意連續函式。這些方法也可以用於建構函式。
啟用函式選用如sigmoid函式這樣的光滑函式，最終的生成函式也是光滑的。而選用relu函式這樣的分段線性函式，最終的生成函式也是分段線性的，但函式本身也是連續的，所有的間斷點都是第一類間斷點，在二維的表現就是乙個折線。
可以簡單證明，對於l層，每層寬度均為w的前饋神經網路，生成函式的第一類間斷點數最多為(2w)^l，其中2是relu函式的片段數。由此，可以得知，增加深度比增加寬度能更好的提高函式的曲折能力，能更快的近似到給定函式上。當然，由於控制引數總數為lw^2遠小於最多間斷點數，這也意味著要麼大部分生成的函式並沒有如此多的間斷點，要麼這些曲折中有大量重複的模式。而這是深度學習網路能解決的函式範圍，連續而有規律的函式。
傳統的密碼破解意思在已知加密方式的前提下，給定足夠的明文 (plaintext) 和密文 (ciphertext)，能否根據給定的密文去破解得到相應的明文。聽起來很有點像對抗神經網路的感覺。把明文密文弄成樣本集，構造深度學習網路意味著構造乙個從明文到密文的函式f，來模擬加密演算法c。
如前所述，深度學習網路乃至機器學習的生成函式通常都是分段光滑的，資料間存在著規律和特徵。而現代加密演算法要麼基於大量的離散函式變換，要麼基於一些難以計算的數論問題（如素數分解、橢圓曲線計算等），使得輸出的密文與真實隨機資料在統計意義上無法被區分。乙個好的加密演算法，破壞了輸入輸出之間的規律和模式，很難用機器學習來獲取，而深度學習網路去模擬，其控制引數也要與其秘鑰集相當，這無異於暴力破解。
當然，這前提都是面對的加密演算法足夠的好，確實破壞了輸入輸出之間的規律和模式。但考慮到aes加密方法的代數結構十分簡單，而rsa等方法所基於的數論問題或許還是存在著一些未被了解清楚的離散規則，即便如此，使用以光滑函式為基礎的深度學習網路去模擬離散函式的規律仍然並不好用。
深度學習不適合於密碼演算法的破解，也並不意味著不能用於密碼破解。passgan便是通過深度學習來挖掘使用者密碼明文的分布規律來生成破解密碼進行攻擊的，但與密碼演算法破解本身無關。
FPGA在其他領域的應用 二
計算機和儲存領域 計算機技術和儲存技術發展迅猛。如今，雲計算正在實現對傳統 it 功能和全新功能的整合。例如，許多大型資料中心目前正在同時提供傳統的 it 服務以及新型的資料分析服務。因此，這些大型資料中心需要使用高效的伺服器和儲存系統。利用頻率調節來提公升效能的方式已成歷史，傳統的 cpu 技術已...
FPGA在其他領域的應用 一
測試需要是所有細分市場的要求。無論是終端市場，所有產品在運到最終客戶之前都必須進行測試。這動態地驅動測試和測量領域的普遍性質，其中包括下面的種類和分段 通訊測試 半導體 ate 通用測試 測試與測量 汽車領域 汽車設計人員面臨的挑戰 當今的汽車電子系統設計人員面臨的三個主要挑戰是 更快的開發周期 汽...
深度學習在金融領域的應用構想
本文 格物課堂 從技術角度來看，目前人工智慧領域所使用的主要技術就是深度網路，同時輔以某些傳統機器學習方法以及預處理技術。在筆者看來，深度學習在金融領域的應用中最具優勢的一點便是特徵的自主選擇，例如 金融 行業易受到各種事件的影響，比如最近幾天美國航母將在靠近朝鮮的海域進行巡航，而且極有可能發生類似...