數學優化與凸集2(斯坦福凸優化筆記2)

2021-08-02 22:45:38 字數 3230 閱讀 1733

1 直線和線段設 x

1≠x2

為rn 空間中的兩個點,那麼具有下列形式的點 y=

θx1+

(1−θ

)x2,

θ∈r

組成一條穿越x1

和x2 的直線。如果θ∈

[0,1

] ,就構成了x1

和x2 之間的閉線段。

2 仿射集合

如果通過集合c⊆

r 中任意兩個不同點的直線仍在集合中,那麼集合

c 是仿射的。

這個概念可以擴充套件到多個點的狀況,如果θ1

+⋯+θ

k=1,我們稱具有θ1

x1+⋯

+θkx

k 形式的點為x1

,⋯xk

的仿射組合。

根據仿射集合的定義,如果

c 是乙個仿射集合,x1

,⋯xk

∈c,且θ

1+⋯+

θk=1

,那麼θ1

x1+⋯

+θkx

k 仍然在

c 中。

3 凸集 集合c

被稱為凸集,如果

c 中任意兩點間的線段都在

c中,即對於任意x1

,x2∈

c 和滿足0≤

θ≤1 的

θ 都有 θx

1+(1

−θ)x

2∈c

簡單的可以理解成,集合中任意兩個點之間的路徑都包含在集合裡。

集合中所有點的凸組合的集合叫做凸包,記co

nvc

conv

c=凸包是包含

c 最小的凸集。

上圖是凸包的(來自斯坦福boyd convex optimization)

左圖為一些點的凸包,右圖為腎型的凸包。

4 錐對於任意x∈

c和θ≥

0 都有θx

∈c,我們稱集合

c 為錐或者非負齊次。

錐可以直觀的理解為從原點到各個點的輻射的直線組成的集合。

上圖的三條直線可以認為是錐,對於任意直線上點x1

,x2,

x3來說,滿足上述錐的定義。

如果集合

c 是錐,並且是凸的,即對於任意x1

.x2∈

c和θ1

,θ2≥

0 有: θ1

x1+θ

2x2∈

c 此時這個集合既是乙個錐,又是凸的,稱為凸錐。

在二維上,凸錐構成了二維的扇形。

(來自斯坦福boyd convex optimization) 集合c

的錐包是

c中所有元素的錐組合的集合。即 ,

這是包含

c 最小的凸錐。

(來自斯坦福boyd convex optimization)

下面介紹一些常用的凸集,這些凸集將在以後經常用到。

1超平面與半空間

超平面是有以下形式的集合:

其中:a∈r

n,a≠

0 且b∈

r 。

從幾何上講,我們可以理解為超平面法線方向為

a ,常數b∈

r決定了超平面到原點的偏移。超平面將rn

劃分成兩個半空間。半空間是具有下列形式的集合:

超平面既是凸的,又是仿射的;

(來自斯坦福boyd convex optimization)

半空間是凸的。

(來自斯坦福boyd convex optimization)

2 euclid 球和橢球rn

空間中的euclid 球(簡稱球)形式如下: b(

xc,r

)==

還可以表達為: b(

xc,r

)=ε=

橢球的另外一種常見的表示形式是: ε=

其中a 是非奇異的方陣,我們一般假設

a對稱正定,且a=

p−1 ,這時此表示方式和上一種表示方式一致。

球和橢球都是凸的。

3 範數球和範數錐

範數球可以如下定義,設∥⋅

∥ 是rn

中的範數,則範數球:

範數球是上面euclid球的推廣,同樣是凸的。

範數錐的定義如下: c=

⊆rn+

1 範數錐是個凸錐。

這個圖是二維

的。

這個圖是二維

的。4 多面體

多面體定義為有限個線性等式和不等式的解集:p=

多面體是有限個半空間和超平面的交集。多面體是乙個凸集。

多面體還可以表示為: p=

其中: a=

⎡⎣⎢⎢

⎢at1

⋮atm

⎤⎦⎥⎥

⎥,c=

⎡⎣⎢⎢

⎢ct1

⋮ctp

⎤⎦⎥⎥

⎥,5 半正定錐

我們用s

n 表示對稱n×

n 矩陣的集合,這個集合是乙個維數為n(n+1)/2的向量空間。我們用sn

+ 表示對稱半正定矩陣的集合 sn

+= 用

sn++

= 表示對稱正定矩陣的集合。sn

+ 和sn

++集合都是凸錐。

(未完,待續)

數學優化與凸集3(斯坦福凸優化筆記3)

本節介紹一些保凸運算,用於將上一節介紹的基本凸集構造出其他凸集。1 交集 交集是保凸的。無窮個凸集的交集也是凸的。2 仿射函式 仿射函式 如果乙個函式有f rn r m 能表示成乙個線性函式和乙個常數的和的形式 即f x a x b 其中a rm n b r m 乙個凸集通過仿射變換仍然是凸的。反向...

斯坦福凸優化課程Video2 4

如果兩個集合是可分離的凸集那麼可以滿足下面的條件。在這個條件下,我們畫出的影象是這樣的 可以看到,如上圖所示的,如果可以用一條直線,超平面,將兩個集合劃分開來,那麼稱兩個集合為可分離集合。也同時可以稱,直線 x a tx b 可以分離c和d。支援超平面是滿足方程 的x0是集合c的邊界點 如果c是凸的...

斯坦福凸優化課程Video2 4

如果兩個集合是可分離的凸集那麼可以滿足下面的條件。在這個條件下,我們畫出的影象是這樣的 可以看到,如上圖所示的,如果可以用一條直線,超平面,將兩個集合劃分開來,那麼稱兩個集合為可分離集合。也同時可以稱,直線 可以分離c和d。支援超平面是滿足方程 的x0是集合c的邊界點 如果c是凸的,那麼在所有的c的...