模型整合方法

資料層面的整合方法：

測試階段資料擴充：以隨機扣取為例，對某張測試影象可得到n張隨機扣取影象，測試階段只需用訓練好的深度網路模型對n張圖分別做**，之後將**的各類置信度平均作為該測試影象的最終**結果即可。

簡易整合法：對於樣本較多的類採取降取樣，每次取樣數依照樣本數目最少的類別而定，這樣每類取到的樣本數是均等的。取樣結束後，針對每次取樣得到的子資料集訓練模型，如此取樣、訓練反覆多次。最後對測試資料的**則依據訓練得到若干個模型的結果取平均或投票獲取。

模型層面的整合方法：

單模型整合：

多層特徵融合：多層特徵融合操作時可直接將不同層網路特徵級聯。最後使用靠近目標函式的幾層卷積特徵，因為愈深層特徵包含包含的高層語義性愈強、分辨能力也愈強。

網路快照整合法：利用區域性最優解形成的網路模型進行整合。

多模型整合：

多模型生成策略：

同一模型不同初始化：不同的模型引數初始化對導致不用的結果，針對小樣本資料，首先對同一模型進行不同初始化，之後將得到的網路模型進行結果整合會緩解其隨機性，提公升最終的**結果。

同一模型不同訓練輪數：不同訓練輪數的結果是不一樣的，尤其是在模型趨於收斂的時候，無法確定到底是哪一輪訓練得到的模型是最適合測試資料的，所以對最後幾輪訓練模型結果做整合，一方面降低隨機誤差，一方面避免了輪數過多帶來的過擬合。

不同目標函式：既可以對不同模型**結果做『置信度級別』的平均或投票，也可以做『特徵級別』的模型整合，將不同網路得到的深度特徵抽出後級聯作為最終特徵，在使用分類器進行訓練。

不同網路結構：

多模型整合：

直接平均法：直接平均不同模型產生的類別置信度得到最後**結果。

加權平均法：是在直接平均法的基礎上加入權重來調節不同模型輸出。

投票法：

堆疊法：二次整合法。