數學優化與凸集3(斯坦福凸優化筆記3)

2021-08-03 00:03:27 字數 2592 閱讀 9938

本節介紹一些保凸運算,用於將上一節介紹的基本凸集構造出其他凸集。

1 交集

交集是保凸的。無窮個凸集的交集也是凸的。

2 仿射函式

仿射函式:

如果乙個函式有f:

rn→r

m 能表示成乙個線性函式和乙個常數的和的形式 ,即f(

x)=a

x+b ,其中a∈

rm×n

,b∈r

m 。乙個凸集通過仿射變換仍然是凸的。反向也成立。同樣,乙個集合通過仿射變換能變成凸集,就說明原集合也是凸的。

最簡單的例子就是伸縮和平移。(這點很好理解,伸縮和平移不會改變形狀的凹凸性)

乙個凸集向某幾個座標投影是凸的。(這個也比較好理解,乙個凸的圖形沿乙個方向拍扁,必然是凸的。)

兩個集合的和的定義為: s1

+s2=

兩個集合的積定義為: s1

×s2=

如果s1

和s2 是凸集,那麼s1

,s2 的和,積都是凸集。

下面再舉幾個比較複雜的例子:

線性矩陣不等式的解: a(

x)=x

1a1+

⋯+xn

an⪯b

稱為關於

x 的線性矩陣不等式,其解

,其中b,a

i∈sm

這個解集是個凸集,因為這個解集是f(

x)=b

−a(x

),f:

rn→s

m 下的原象。

雙曲錐:

集合 是凸集,因為它是二階錐

在仿射函式f(

x)=(

p1/2

x,ct

x)下的原象。

3 線性分式和透視函式

透視函式:

我們定義p:

rn+1

→rn,

p(z,

t)=z

/t為透視函式,其定義域為 do

mp=r

n×r+

+ 透視函式對向量進行伸縮和規範化,使最後一維分量為1。

例:對⎡⎣⎢

⎢abc

⎤⎦⎥⎥

作用透視函式,結果為: ⎡⎣

⎢⎢⎢⎢

acbc

1⎤⎦⎥

⎥⎥⎥

透視函式是保凸運算。

線性分式函式: f(

x)=a

x+bc

tx+d

,dom

f=線性分式函式是保凸的。稱錐k

⊆rn 為正常錐,如果它滿足下列條件: 1 k

是凸的 2 k

是閉的 3 k

是實的,即

k有非空的內部 4 k

是尖的,即

k不包含任何直線

在正常錐上可以定義廣義不等式,在正常錐上定義rn

上的偏序關係如下: x⪯

ky⇔y

−x∈k

舉幾個例子:

1 非負象限和廣義不等式: 若k

=rn+

是乙個正常錐,對應廣義不等式的定義為: x⪯

ky⇔y

−x∈r

n+此時的廣義不等式就是我們通常說的普通意義上的不等式。

2 半正定錐和矩陣不等式 若k

=sn+

是乙個正常錐,對應廣義不等式的定義為: x⪯

ky⇔y

−x∈s

n+此時的廣義不等式的意義是y−

x 是半正定矩陣。

廣義不等式滿足類似普通不等式的性質,如傳遞性,反對稱性等等。

其中廣義不等式和普通不等式最大的區別是不是任意兩點都是可比的。即x≤

y 和y≤

x 對於普通不等式二者必居其一。而對於廣義不等式這不一定成立。所以最小,最大這些概念對於廣義不等式變得很複雜。

最小元和極小元:

如果對於每個y∈

s ,均有x⪯

ky,我們稱x∈

s 是

s (關於廣義不等式⪯k

)的最小元。類似的,我們可以定義關於廣義不等式的最大元。

相對應的概念是極小元。如果y∈

s,y≤

kx可以推得y=

x , 那麼我們稱x∈

s 是

s 關於廣義不等式⪯k

的極小元。乙個集合有多個極大元和極小元。

(來自斯坦福boyd convex optimization)

對於錐r2+

,左圖s1

都在x1

的右上,所有s1

的數都比x1

大,x1

是最小值。

對於錐r2+

,右圖s2

不在x2

的左下,所有s2

的數沒有比x2

小,x2

是極小值。

圖中虛線區域和x2

不可比較。所以x2

不是最小值。

(未完,待續)

數學優化與凸集2(斯坦福凸優化筆記2)

1 直線和線段設 x 1 x2 為rn 空間中的兩個點,那麼具有下列形式的點 y x1 1 x2,r 組成一條穿越x1 和x2 的直線。如果 0,1 就構成了x1 和x2 之間的閉線段。2 仿射集合 如果通過集合c r 中任意兩個不同點的直線仍在集合中,那麼集合 c 是仿射的。這個概念可以擴充套件到...

斯坦福凸優化課程Video2 4

如果兩個集合是可分離的凸集那麼可以滿足下面的條件。在這個條件下,我們畫出的影象是這樣的 可以看到,如上圖所示的,如果可以用一條直線,超平面,將兩個集合劃分開來,那麼稱兩個集合為可分離集合。也同時可以稱,直線 x a tx b 可以分離c和d。支援超平面是滿足方程 的x0是集合c的邊界點 如果c是凸的...

斯坦福凸優化課程Video2 4

如果兩個集合是可分離的凸集那麼可以滿足下面的條件。在這個條件下,我們畫出的影象是這樣的 可以看到,如上圖所示的,如果可以用一條直線,超平面,將兩個集合劃分開來,那麼稱兩個集合為可分離集合。也同時可以稱,直線 可以分離c和d。支援超平面是滿足方程 的x0是集合c的邊界點 如果c是凸的,那麼在所有的c的...