判斷目標函式的凹凸性

2021-09-03 03:05:19 字數 910 閱讀 8680

就是直接對目標函式進行計算,然後判斷其是否凸。具體地,就是計算目標函式的一階導數和二階導數。然後作出判斷。

等號右邊是對函式在x點的一階近似。這個條件的意義是,對於函式在定義域的任意取值,函式的值都大於或者等於對函式在這點的一階近似。用圖來說明就是:

通過圖可以很清楚地理解這個充要條件,但是,具體在應用中,我們不可能對每乙個點都去計算函式的一階導數吧,因此下面這個充要條件更加實用。

很簡單,如果乙個函式的二階導數大於等於零,那麼這個函式就是凸函式。圖就不上了,很好理解,函式的一階導數具有遞增性,那麼函式本身就是凸函式。

通過暴力計算法,可以很快地判斷函式是不是凸函式。凹函式同理。

有時候我們不必通過暴力計算,可以通過分析目標函式的結構,就能在一些情況下判斷函式是否是凸函式。下面給出一些結論:

指數函式是凸函式;

對數函式是凹函式,然後負對數函式就是凸函式;

對於乙個凸函式進行仿射變換,可以理解為線性變換,結果還是凸函式;

二次函式是凸函式(二次項係數為正);

高斯分布函式是凹函式;

多個凸函式的線性加權,如果權值是大於等於零的,那麼整個加權結果函式是凸函式。

下面出一道題目:如何判斷最大似然函式一定有最大值?

思路:最大似然函式是求最大值,那麼函式必須是凹函式。就拿我們常用的對數似然函式,是多個對數函式的線性加權而且權值為1,而對數函式是凹函式,然後每個對數內部有沒有巢狀其他函式再分析一下,最後就能判斷整個對數似然函式是凹函式,因此一定有最大值。

很多機器學習演算法都設計最優化問題,判斷目標函式是凸是凹是第一步,這只是可以最優化的前提,那麼,有哪些最優化的問題呢?

有哪些最優化的手段呢?常見的有:

判斷目標函式的凹凸性

就是直接對目標函式進行計算,然後判斷其是否凸。具體地,就是計算目標函式的一階導數和二階導數。然後作出判斷。等號右邊是對函式在x點的一階近似。這個條件的意義是,對於函式在定義域的任意取值,函式的值都大於或者等於對函式在這點的一階近似。用圖來說明就是 通過圖可以很清楚地理解這個充要條件,但是,具體在應用...

函式的凹凸性證明 判斷複雜函式的凹凸性

判斷無人機能量x關係函式的凹凸性 函式是關於v和drt的二元函式 函式有非常多的引數,極其複雜,看到就煩,我首先用畫函式的方法通過影象法來觀察,但是畫出來的影象不忍直視 或許是我畫的影象不對,反正看起來就非常low,一看就知道影象不正確 因此放棄了 通過幾天的煩惱,終於想到乙個法子,先求帶有引數的海...

函式的凹凸性

設函式 f x 在區間 i 上有定義,在 i 內任取兩點 x x 對任意的 lambda in 0,1 有 lambda x 1 lambda x in x x a 點座標 x f x a 點座標 x f x a 點座標 x,f x 於是可以求得 y frac x x f x frac x f x ...