學習日記2020 10 21（注意力模組）

注意力模組：

物體間或者物體內一些區域的關聯性是有助於目標檢測任務的，但是之前沒人有實際的證明如何使用這種關聯性是一定可行的，本文作者就嘗試在檢測網路中新增注意力模組。《relation networks for object detection》

新增鏈結描述

計算機視覺（computer vision）中的注意力機制（attention）的基本思想就是想讓系統學會注意力——能夠忽略無關資訊而關注重點資訊

主要是三種注意力域，1空間域(spatial domain)，2通道域(channel domain)，3混合域(mixed domain)。–時間域(time domain)

1spatial transformer networks（stn）pooling的方法太過於暴力，直接將資訊合併會導致關鍵資訊無法識別出來，所以提出了乙個叫空間轉換器（spatial transformer）的模組，將中的的空間域資訊做對應的空間變換，從而能將關鍵的資訊提取出來。

這是空間變換網路（spatialtransformer network）中最重要的空間變換模組，這個模組可以作為新的層直接加入到原有的網路結構，比如resnet中。空間轉換器中產生的取樣矩陣是能夠將原圖中關鍵的訊號提取出來

2基本的訊號變換的角度去理解。訊號系統分析裡面，任何乙個訊號其實都可以寫成正弦波的線性組合，經過時頻變換《注4>之後，時域上連續的正弦波訊號就可以用乙個頻率訊號數值代替

不同通道的值乘上不同的權重，從而可以增強對關鍵通道域的注意力

新增鏈結描述