凸優化筆記 三 凸函式

2021-07-14 20:58:26 字數 2383 閱讀 1431

1、若函式f:

rn→r

是凸的,有個很重要的前提,do

mf是凸集。

2、函式是凸的,當且僅當其在與其定義域相交的任何直線上都是凸的?

→ 直線x+

tv與dom

f 相交,且f(

x+tv

) 是凸的,為什麼能證明f(

x)是凸的?

3、拓展值延伸,起到自動定義定義域的作用,引出示性函式。

4、一階條件,

f 可微是由梯度∇f

存在引出。 全域性下估計? f(

y)≥f

(x)+

∇f(x

)t(y

−x),

f(x)

為f在x

附近的泰勒近似。

5、一階凸性條件的證明中,用到了2的結論。

6、一階凸性一般情況的證明,為什麼要用g(

t)≥g

(t˜)

+g′(

t)(t

−t˜)

來證明?

7、二階條件,

f 二階可微由he

ssia

n矩陣或二階導數∇2

f 存在引出。

8、書上幾個典型例子中,he

ssia

n 矩陣的求法要注意。 9、(

y,t)

∈epi

f⇒[∇

f(x)

−1]t

([yt

]−[x

f(x)

])≤0

⇒(∇f

(x),

−1) 向量是支撐ep

if。這個結論是跟全域性下估計有關?其中

t 表示的是≥f

(y) 的值。

10、f(e

x)≤e

f(x)

,e是期望,為什麼這個式子能刻畫凸性? 如果f

不是凸函式,也不是凹函式,可能是其他類函式嗎?如果只能是凸或凹函式的一種,那麼結論就成立。因為若

f不是凸函式,那麼存在隨機變數x,

x∈do

mf以概率1發生,使得f(

ex)>ef

(x) .

11、凸性和je

nsen

不等式可構成不等式理論的基礎。

12、逐點最大性質,可擴充套件到無限個凸函式的逐點上確界,這裡的「無限個」用f(

x,y)

y∈a 表示。

13、書中例3.9中的解析最小值是怎麼得到的?

14、擴充套件值延伸的非增、非減,滿足無限延伸的條件。

15、最小化:g(

θx1+

(1−θ

)x2)

=inf

y∈cf

(θx1

+(1−

θ)x2

,y)≤

f(θx

1+(1

−θ)x

2,θy

1+(1

−θ)y

2) →

?≤θf

(x1,

y1)+

(1−θ

)f(x

2y2)

≤θg(

x1)+

(1−θ

)g(x

2)+ϵ

。 16、指數和的對數函式的共軛函式是概率單純性內的負熵函式。

17、擬凸函式是用在區域性優化上?擬凸性是凸性的重要擴充套件。

18、擬凸的充要條件跟凸函式的一階條件相似。f(

x)≤f

(y)⇒

∇f(x

)t(y

−x)≤

0 19、例3.31中,注意do

mf=r

2+,所以f是擬凸函式。也就是定義中有個α∈

r ,是在do

mf之內的。

20、y∈r

n,x∈

domf

由yt∇

f(x)

=0⇒y

t∇2y

≥0,是由反證法得到的?

21、為什麼例3.21說明∇2

f(x)

在(n-1)維子空間∇f

2 上半正定的,即∇2

f(x)

最多只有乙個負特徵值。

22、如果函式

h 是凸函式,則eh

是凸函式,對數凸函式也是凸函式。

補18:為什麼其他書上有這樣的擬凸函式定義:

0<

θ<1,

f(θx

1+(1

−θ)x

2)x ,與書中定義等價?圖3.10中有提到上面的那句話,不過是在r上才成立。

→ 現在來看,下水平集的定義更寬泛,畢竟取α=

max 也成立。

23、一些常用的概率密度函式是對數-凹函式。

《凸優化》筆記(二) 凸函式

筆記是根據 convex optimization 寫的,對應第3章。3 凸函式 3.1 基本性質及例子 滿足如下條件的從n維對映到1維的函式稱凸函式 f x 1 y f x 1 f y f x 1 y f x 1 f y 其中0 10 1。凸函式的一維導數有如下性質 f y f x f x t y...

凸優化 最優化 凸集 凸函式

原文 我們知道壓縮感知主要有三個東西 訊號的稀疏性,測量矩陣的設計,重建演算法的設計。那麼,在重建演算法中,如何對問題建立數學模型並求解,這就涉及到了最優化或凸優化的相關知識。在壓縮感知中,大部分情況下都轉換為凸優化問題,並通過最優化方法來求解,因此了解相關知識就顯得尤為重要了。主要內容 問題引出 ...

凸函式與凸優化 轉

影象 定義 設x1 x1 x1和x 2 x2 x2為函式f x 定義域內的任意兩個實數,且x 1 x1 x1 t 2 x2 x2,恒有 x1 x 2 x 1 x 2 則稱f x 是定義域上的凸函式。判定 凸函式的判定 f x 在區間 a,b 上連續,在 a,b 內二階可導,那麼 一階判定條件 設f ...