凸函式和jensen不等式

2022-07-11 13:00:10 字數 2749 閱讀 5466

對於一元函式\(f(x)\),若滿足\(f(x)\)在\([a,b]\)上連續,且對於任意\(x_1\),\(x_2\),恒有:

\[f(\frac )\ge\frac 2

\]則稱\(f(x)\)在\([a,b]\)上是向上凸的,簡稱上凸,此時\(f(x)\)為\([a,b]\)的凹函式,如圖1-3-3;若恒有:

\[f(\frac )\le(\frac 2)

\]則稱\(f(x)\)在\([a,b]\)上是向下凸的,簡稱下凸,此時\(f(x)\)為\([a,b]\)的凸函式,如圖1-3-4:

一元凹凸函式影象(左凹右凸)

凸函式可利用凸集和上圖的概念定義。\(f\)的上圖可理解為函式\(f(x)\)影象以上的區域構成的集合(暫未找到上圖定義,此處為個人理解)。集合\(c\)被稱為凸集,如果\(c\)中任意兩點間的線段仍然在\(c\)中,即對於任意的\(x_1,x_2 \subseteq c\),\(0 \le \theta \le1\),都有:\(\theta x_1+(1-\theta)x_2 \subseteq c\)。

凸函式定義:如果函式\(f:\omega \to r\),\(\omega \subset r^n\)的上圖是凸集,那麼函式\(f\)是集合\(\omega\)上的凸函式。

對於定義在凸集\(\omega \subset r^n\)上的函式\(f:\omega \to r\),\(f\)是凸函式當且僅當對於任意\(x,y \in \omega\)和任意\(\alpha \in (0,1)\),都有

假設函式\(f,f_1,f_2\)都是凸函式,那麼,對於\(\forall a \ge 0\),函式\(af\)也是凸函式;\(f_1+f_2\)也是凸函式。

對於定義在凸集\(\omega \subset r^n\)上的函式\(f:\omega \to r\),如果對於任意\(x,y \in \omega, x \ne y\) 和任意\(\alpha \in (0,1)\),都有

\[f(\alpha x + (1-\alpha)y)\lt \alpha f(x)+(1-\alpha) f(y)

\]則函式\(f\)是\(\omega\)上的嚴格凸函式。對於嚴格凸函式,連線兩點\([x^t,f(x)]^t\)和\([y^t,f(y)]^t\)的線段上的所有點(不包括兩個端點),都嚴格位於函式\(f\)的影象上方。

凸優化問題中,區域性最小點就是全域性最小點。

對於一元函式\(f(x)\),通過其二階導數\(f''(x)\)的符號來判斷。若在\((a,b)\)內存在二階導數\(f''(x)\),且在\((a,b)\)上\(f''(x) \ge0\)恆成立(等號只在有限個點上成立),則稱\(f(x)\)在\((a,b)\)上是凸函式。

對於多元函式\(f(x)\),通過其\(hessian\)矩陣的正定性來判斷。若函式\(f(x)\)的二階偏導數在整個域中是存在並且連續的,且其\(hessian\)矩陣\(h(f)\)是正定(即其為滿秩矩陣,且全部特徵值大於0)的,則\(f(x)\)是域上的凸函式。

\(hessian\)矩陣:函式\(f:r^n \to r\) 在某個域上的二階導數存在且連續,則函式\(f(x_1,x_2,...,x_n)\)的\(hessian\)矩陣為:

如果\(f\)是凸函式,\(x\)是隨機變數,那麼\(f(e(x)) \le e(f(x))\),即為jenson不等式的一般表述。此外,還有另一種表述:假設\(\omega_1,\omega_2,...,\omega_n\)為權重且滿足:\(\omega_j \ge 0\),\(\sum_^n \omega_j =1\),對於任意\(x\)有:

\[f(\omega_1x_1+\omega_2x_2+...+\omega_nx_n) \le \omega_1f(x_1)+\omega_2f(x_2)+...+\omega_nf(x_n)

\]反之,若\(f\)是域上的凹函式,則:

\[f(\omega_1x_1+\omega_2x_2+...+\omega_nx_n) \ge \omega_1f(x_1)+\omega_2f(x_2)+...+\omega_nf(x_n)

\]若\(f(x)=ln(x)\),則可知\(f\)為凹函式,若令權重相等均為\(1/n\),則:

\[ln(\frac1 n \sum_^n x_i) \ge \frac 1 n\sum_^nln(x_i)

\]兩邊進行取冪運算可得算術平均數和幾何平均數大小關係:

\[\frac n \ge \sqrt[n]

\]當且僅當\(x_1=x_2=...=x_n\)時等號成立。

不等號屬於不等式嗎 實數(等式和不等式)

在高中數學的第二章,a版教材稱其為一元二次函式 方程和不等式,而b版教材僅稱其為等式和不等式,這不是說a版教材的內容豐富,反而是說b版教材更突出數學的一般性。不論你學哪一版本,都應該把這一章的內容在本質上看作是實數,等式 不等式的性質,乃至一元二次方程和不等式,都是實數性質的體現。在現代數學,我們有...

不等式數列

不等式數列 時間限制 1秒 空間限制 32768k 度度熊最近對全排列特別感興趣,對於 1到n的乙個排列 度度熊發現可以在中間根據大小關係插入合適的大於和小於符號 即 和 使其成為乙個合法的不等式數列。但是現在度度熊手中只有 k個小於符號即 和n k 1 個大於符號 即 度度熊想知道對於1至 n任意...

不等式雜談

高中時期我們都接觸過一些極為常用的不等式,筆者曾在學習不等式的過程中做過一些深入的學習,並對一些常用的不等式做出過證明用來鞏固複習,而在接觸了高等數學並自學數學分析的過程中發現了自己在不等式運用上的一些短板,當時並沒有引起筆者的注意,但在學習專業課的過程中發現一些稍微複雜些的不等式在諸如放縮等運算處...