深度學習基本思想 分層的特徵表示(三)

2021-08-21 09:57:54 字數 697 閱讀 6378

假設我們有乙個系統

s,它有n層(

s1,…sn

),它的輸入是

i,輸出是

o,形象地表示為:

o等於輸入

i,即輸入

i經過這個系統變化之後沒有任何的資訊損失(呵呵,大牛說,這是不可能的。資訊理論中有個

「資訊逐層丟失

」的說法(資訊處理不等式),設處理

a資訊得到

b,再對

b處理得到

c,那麼可以證明:a和

c的互資訊不會超過a和

b的互資訊。這表明資訊處理不會增加資訊,大部分處理會丟失資訊。當然了,如果丟掉的是沒用的資訊那多好啊),保持了不變,這意味著輸入

i經過每一層

si都沒有任何的資訊損失,即在任何一層

si,它都是原有資訊(即輸入

i)的另外一種表示。現在回到我們的主題

deep learning

,我們需要自動地學習特徵,假設我們有一堆輸入

i(如一堆影象或者文字),假設我們設計了乙個系統s(有

n層),我們通過調整系統中引數,使得它的輸出仍然是輸入

i,那麼我們就可以自動地獲取得到輸入

i的一系列層次特徵,即s1,

…, sn

。deep learning

方法。上述就是

deep learning

的基本思想。

分層測試 基本思想

按照v模型進行劃分層次 單元測試 模組測試又稱組建測試,整合測試 系統測試 unit層的測試物件是函式或方法 service層的測試物件是模組和介面 ui層的主要測試物件是展示和互動 unit層的測試策略 1 走查 開發人員自己檢查自己的 2 評審code review 開發團隊組織評審會,應避免走...

Michael Abrash 的基本思想。

在大學的時候老鄉老楊買了一本厚厚的書,他看了幾天認為沒有什麼多大用途,就要讓給我。給我的 已記不得多少了。這本書就是michael abrash的 griphics programming black book 的中文版。這也是我看的第一本關於程式設計思想的書。後面的內容當時基本看不懂,但前幾章可以...

Deep Learning的基本思想

假設我們有乙個系統s,它有n層 s1,sn 它的輸入是i,輸出是o,形象地表 示為 i s1 s2 sn o,如果輸出o等於輸入i,即輸入i經過這個系統變化之後沒有任何的資訊損失 呵呵,大牛說,這是不可能的。資訊理論中有個 資訊逐層丟失 的說法 資訊處 理不等式 設處理a資訊得到b,再對b處理得到c...