三種常見的正則化模型研究2

2021-09-19 23:20:27 字數 2089 閱讀 3794

[檔案] 三種常見的正則化影象處理模型研究.pdf

上次學習了第乙個正則項,吉洪諾夫正則項。

接下來介紹tv正則

相比用 tikhonov 正則化去噪,用 tv 正則化模型去噪,效果更好模糊更少。rof 模型具有保持邊界的良好性質。文章主要是介紹了tv正則項的一些發展史:

1.對偶投影法求解 rof 模型。該法把原始問題的求解轉化為對偶空間上的一 個投影問題的求解。該法簡單快速,去噪效果很好。

2.基於 bregman 距離的 bregman 迭代規則演算法。每次迭代加入前一步處理中丟棄的噪音,裡面包含影象的部分邊界和細節資訊,可能會使後面的結果更接近原始影象。

3.加權噪音回帶的去噪音模型。該法先給 bregman 迭代規則演算法的噪音回帶項配以乙個權重係數,可以有效減緩回帶噪音過重導致的不理想,然後再用 chambolle 的對偶投影法來求解每一單步,去噪效果優於兩種方法中的任意一種方法。

對於稀疏正則,以影象梯度的 l0 模作為正則項,對總體梯度的非零數加以限定。

關於稀疏約束,補充一些知識點(大多是在別人的部落格裡面學習的)

在實際應用中,資料的維度中是存在噪音和冗餘的,稀疏的解可以找到有用的維度並且減少冗餘,提高回歸**的準確性。稀疏約束最直觀其實是約束0正規化,但是0正規化不連續並且非凸,其實1正規化也可以達到稀疏的效果,最重要的是1正規化很容易求解,所以稀疏約束更常用1正規化。

為什麼1正規化可以達到稀疏的效果呢?

對於

容易看到j是不可微的,但是我們需要求出j0取最小的時候j的解。

我們考慮二維的情況,只有權值w1和w2

圖中等值線是j0的等值線,黑色方線是l函式的圖形,在圖中,j0等值線與l圖形首次相交的地方就是最優解。l函式突出的角(維數越高越多)和j0接觸的機率高,而這些角上,會有很多權值為0,所以1正規化可以用於產生稀疏模型。

當然這篇文章介紹的是梯度的l0模作為正則項的稀疏正則

如何求解呢?文章介紹一種很精巧的稀疏梯度計算格式,解決梯度的l0模的最小化問題。

將問題分解為對s和(h,v)的求解。

1.首先對於s的求解需要了解fft(快速傅利葉變換)的知識。

fft其實是乙個用o(nlog2n)的時間將乙個用係數表示的多項式轉換為它的點值表示的演算法。我們預設所有的n都是2的整數次冪。

首先根據傅利葉變換知識我們知道

首先設

這樣就可以利用快速傅利葉轉換求s,在把表示式變成點值後,只需在傅利葉域上的進行做逐個畫素的加、乘和除法運算而不需要處理矩陣逆的問題,因此比原始方程的求解更簡單。

2.對於(h,v)的求解

我們知道c (h,v)返回 |h|+|v|的非零元素個數,由於(h,v)是影象上的各個畫素點,所以可以對各個點分別計算後連加,計算方便很多。

總結:tikhonov 正則化去噪法(影象梯度的 l2 模的平方作為正則項)和 tv 正則化去噪方法(影象梯度的 l1 模作為正則項)。tikhonov 正則化模型具有一定的去噪能力,但是會帶來很大的模糊,而 tv 正則化去噪模型能夠有效去除噪音並保護水平和鉛直邊界。稀疏正則不僅可以平滑掉內部低幅細節和紋理而且還能有效地保護影象的全域性主要邊界,從而提高了影象邊界的識別度,便於邊界檢測等更進一步的影象處理。

mysql三種引擎 MySQL常見的三種儲存引擎

簡單來說,儲存引擎就是指表的型別以及表在計算機上的儲存方式。儲存引擎的概念是mysql的特點,oracle中沒有專門的儲存引擎的概念,oracle有oltp和olap模式的區分。不同的儲存引擎決定了mysql資料庫中的表可以用不同的方式來儲存。我們可以根據資料的特點來選擇不同的儲存引擎。在mysql...

mysql三種引擎 MySQL常見的三種儲存引擎

原文連線 簡單來講,儲存引擎就是指表的型別以及表在計算機上的儲存方式。資料庫 儲存引擎的概念是mysql的特色,oracle中沒有專門的儲存引擎的概念,oracle有oltp和olap模式的區分。不一樣的儲存引擎決定了mysql資料庫中的表能夠用不一樣的方式來儲存。咱們能夠根據資料的特色來選擇不一樣...

mysql三種引擎 MySQL常見的三種儲存引擎

簡單來說,儲存引擎就是指表的型別以及表在計算機上的儲存方式。儲存引擎的概念是mysql的特點,oracle中沒有專門的儲存引擎的概念,oracle有oltp和olap模式的區分。不同的儲存引擎決定了mysql資料庫中的表可以用不同的方式來儲存。我們可以根據資料的特點來選擇不同的儲存引擎。在mysql...