關於卷積網路的模型融合 使用softmax實現

2021-08-10 11:56:22 字數 599 閱讀 4860

首先,實驗經歷來說,做個模型融合還是蠻有用的,直接0.5幾蹦到0.6多。。。

並且,從機器學習理論上來說,拿來融合的幾個模型,模型間的差異越大,融合後的效果會越好。。。

我用的是很low的方法,就是,

我做的是影象分割嘛,也就是影象的每個畫素點的分類。

分別對兩個網路進行test,test的影象過一遍模型後,會得到影象的每個畫素點的logits值(解釋一下,如果是 0 1 分割,那麼每個畫素點就相當於有兩種可能值,mxn的影象,就會得到mxnx2的乙個矩陣,這個2,就是每個畫素點屬於 0 或者 1 類別的網路計算值 ),然後還得做乙個softmax操作,softmax() 函式就是有把網路計算的某畫素點在兩個類別上的值轉化為概率分布的功力,讓這組矩陣變成概率分布的情況,然後好進一步的做交叉墒計算(扯的有點遠。。。tensorflow那本書有詳細的介紹)softmax的結果存成.npy格式。

反正就是,分別對兩個網路的logits做完softmax(存成npy格式)之後,把兩個npy檔案求個均值(這就是最簡單的融合了,,,(a+b)/2  ),其實還可以對兩部分給予不同的權值去融合softmax的值。。。不過權值怎麼給?,有待考究。。。

以上就完成了融合得到最終的影象分割結果了。。。。

卷積網路的block VGG 使用基礎卷積塊的網路

alexnet在lenet的基礎上增加了卷積層,但alexnet對卷積視窗 輸出通道數和構造順序均做了大量的調整。雖然alexnet指明了深度卷積神經網路有出色的表現,但並沒有提供簡單的規則以指導後來的研究者如何設計新的網路。vgg網路是oxford的visualgeometrygroup組提出的,...

關於網際網路的融合

最近一直在考慮到當前網際網路的幾個問題。1.註冊 在網際網路的汪洋大海中,使用者訪問乙個 就得註冊一次,就得不斷的填各種個人資料,不但煩,而且很有可能被不良商人拿去賣錢。如果有乙個 專門記錄使用者的個人資料,然後提供給別的 使用者註冊時,只需要提供自己在這個 的帳號就可以了,別的 通過api訪問個人...

經典卷積神經網路的網路結構模型

1.lenet 5模型 第一層 卷積層 輸入原始影象畫素,32 32 1 過濾器5 5,深度6,不用全0填充,步長為1 輸出長寬尺寸 32 5 1 28,即28 28,深度為6,節點矩陣 28 28 6 4704 卷積層引數 5 5 1 6 6 156 連線數 4704 25 1 122304 其中...