NLP高階之(七)膨脹卷積神經網路

2021-09-26 22:59:22 字數 855 閱讀 6605

nlp高階之(七)膨脹卷積神經網路

1. dilated convolutions 膨脹卷積神經網路

1.2 動態理解

1.2.2 轉置卷積動畫

1.2.3 理解

2. dilated convolutions 優點

3. 應用

理論來自multi-scale context aggregation by dilated convolutions iclr 2016

作者將**貢獻於github

針對語義分割問題 semantic segmentation,這裡使用 dilated convolutions 得到multi-scale context 資訊來提公升分割效果。

1. dilated convolutions 膨脹卷積神經網路

dilated convolutions:

首先來看看膨脹卷積 dilated convolutions,

從上圖中可以看出,卷積核的引數個數保持不變,卷積感受眼的大小隨著dilation rate引數的增加呈指數增長。

1.2 動態理解

n.b.: blue maps are inputs, and cyan maps are outputs.

1.2.2 轉置卷積動畫

n.b.: blue maps are inputs, and cyan maps are outputs.

1.2.3 理解

shape of input : [batch, in_height, in_width, in_channels]

shape of filter : [filter_height, filter_width, in_channels, out_channels]

卷積神經網路膨脹卷積

卷積核就是影象處理時,給定輸入影象,輸入影象中乙個小區域中畫素加權平均後成為輸出影象中的每個對應畫素,其中權值由乙個函式定義,這個函式稱為卷積核 又稱濾波器。卷積核的大小一般有1x1,3x3和5x5的尺寸 一般是奇數x奇數 同樣提取某個特徵,經過不同卷積核卷積後效果也不一樣 可以發現同樣是銳化,5x...

神經網路 卷積神經網路

這篇卷積神經網路是前面介紹的多層神經網路的進一步深入,它將深度學習的思想引入到了神經網路當中,通過卷積運算來由淺入深的提取影象的不同層次的特徵,而利用神經網路的訓練過程讓整個網路自動調節卷積核的引數,從而無監督的產生了最適合的分類特徵。這個概括可能有點抽象,我盡量在下面描述細緻一些,但如果要更深入了...

神經網路 卷積神經網路

1.卷積神經網路概覽 來自吳恩達課上一張,通過對應位置相乘求和,我們從左邊矩陣得到了右邊矩陣,邊緣是白色寬條,當畫素大一些時候,邊緣就會變細。觀察卷積核,左邊一列權重高,右邊一列權重低。輸入,左邊的部分明亮,右邊的部分灰暗。這個學到的邊緣是權重大的寬條 都是30 表示是由亮向暗過渡,下面這個圖左邊暗...