卷積神經網路 第四周

2022-09-03 19:36:08 字數 1565 閱讀 4068

1、人臉驗證,判斷是否與模板一直,是一對一的問題

2、人臉識別,一對多的問題

所以人臉識別對於正確率的要求更高。

在人臉識別系統中,一般資料庫中我們都只有一張某個人的**,如果用一張**來訓練模型,效果很差,所以要解決這個問題需要引入相似函式

一張經過cnn處理之後會輸出全連線層fc,把兩張的的結果計算範數來表示他們的相似程度

對於定義合適的損失函式,這裡引入三元損失函式,通過三張,樣本,正例,反例。從而通過計算樣本與正例的距離和樣本與反例的距離

正例距離應該遠小於反例,但是這裡有個問題,就是都是0的話也成立,所以引入乙個引數,跟svm裡面的軟間隔有點類似

因此定義損失函式如下:

如果樣本與正例距離遠小於樣本與反例距離,那麼損失是0,反之損失就是他們之間的差值,對於多組的訓練樣本,損失函式做累加

對於訓練樣本,通常是每個人有10張這樣,但是在做挑選正例反例時候,最好不要用隨機,而是用人為的方式挑選,更不像的正例和很像的反例,然後這樣神經網路會學習的更好

除了通過triplet loss來做人臉識別,還可以用二分類來處理,同樣兩張做siamese網路處理之後,然後輸入到sigmoid函式中,判斷輸出是0,或者1.

每個過濾器會找出9個影象區域,然後九個過濾器所以找出了這麼多個影象區域,

可以看到第一層檢測的是邊緣或者顏色的資訊,隨著層數的增加,檢測的紋理更加複雜

代價函式有兩部分構成,一部分是生成與原圖的損失+生成與風格圖的損失,再加上兩個超引數

在生成過程中,先隨機生成一張,然後使用梯度下降演算法不斷減小j(g),這樣就讓最後生成有原圖和風格圖的樣子

需要選擇合適的層數來構造,如果層數太小,畫素會很接近,如果層數比較深,某個區域會直接出現在g中

NgDL 第四周深層神經網路

根據前向的矩陣,可以計算出右上的規律,對於第l層的w來說,其維數為 n l n l 1 n l 表示第l層的單元數。如果要做乙個人臉識別的系統 那麼淺層的神經網路,進行特徵識別或邊緣探測,第一張圖中的乙個小方塊就是乙個神經單元?無法理解。比如說有個神經單元去找眼睛的部分,這樣每個神經元就可以找臉部不...

第四周 卷積神經網路 part3

背景 迴圈神經網路是一類以序列資料為輸入,在序列的演進方向進行遞迴且所有節點按鏈式連線的遞迴神經網路。對迴圈神經網路的研究始於二十世紀80 90年代,並在二十一世紀初發展為深度學習演算法之一,其中雙向迴圈神經網路和長短期記憶網路 是常見的的迴圈神經網路。迴圈神經網路具有記憶性 引數共享並且圖靈完備因...

第四周 卷積神經網路 part3

語音問答 機器翻譯 作詞 作詩 模仿寫 模仿寫 影象理解 視覺問答 note 傳統神經網路不考慮上下文關係 迴圈神經網路考慮的核心問題 上下文關係 時序 目標 考慮更多的上下文 迴圈神經網路模仿寫 寫 更多的是模仿其中的格式 比如公式居接下來要換行,if下面跟else等 但是讀起來可能是沒有邏輯 無...