人工智慧與機器學習 凸優化基礎

2021-10-05 08:59:32 字數 1976 閱讀 2368

計算幾何是對幾何外形資訊的計算機表示分析,研究的物件是幾何圖形。早期人們對於影象的研究一般都是先建立座標系,把圖形轉換成函式,然後用插值和逼近的數學方法,特別是用樣條函式作為工具來分析圖形,取得了可喜的成功。然而,這些方法過多地依賴於座標系的選取,缺乏幾何不變性,特別是用來解決某些大撓度曲線及曲線的奇異點等問題時,有一定的侷限性。

初中數學描述的直線方程一般就是兩點連成一條直線。

第一種描述更為專業。

(1)集合c被稱為凸集,如果c中任意兩點間的線段仍然在c中,即對任意x1,x2⊆cx1,x2⊆c 滿足0≤θ≤10≤θ≤1 的 θθ都有

在這裡插入描述

也就是說,凸集中的每乙個點都可以被沿著它們之間一條無阻礙的路看見,那麼這個集合就是凸集。

在這裡插入描述

(2)直線不是凸集,直線可以表示為

在這裡插入描述

(3)直線是仿射集。

4、三維空間中的乙個平面,如何表達?

三維空間中的平面由兩個量確定:

① 乙個法向量(垂直於該平面的向量)

② 乙個已知點(位於該平面上的乙個點)

下面給出在已知平面的法向量n和平面上乙個已知點p的情況下,平面的方程:

平面法向量為:n→=(a,b,c)tn→=(a,b,c)t;

平面乙個已知點:p=(x0,y0,z0)tp=(x0,y0,z0)t;

平面方程為:ax+by+cz−(ax0+by0+cz0)=0ax+by+cz−(ax0+by0+cz0)=0;

平面方程的另外一種寫法:ax+by+cz+d=0ax+by+cz+d=0,其中,d=−(ax0+by0+cz0)d=−(ax0+by0+cz0)

或者是:ax+by+cz=dax+by+cz=d,其中,d=(ax0+by0+cz0)。

5、更高維度的「超平面」,如何表達?

超平面h是從n維空間到n-1維空間的乙個對映子空間,它有乙個n維向量和乙個實數定義。因為是子空間,所以超平面一定過原點。

n 維空間中的超平面由下面的方程確定:

在這裡插入描述

其中,w 和 x 都是 n 維列向量,x 為平面上的點,w 為平面上的法向量,決定了超平面的方向,b 是乙個實數,代表超平面到原點的距離。且:

在這裡插入描述

6、什麼是「凸函式」定義?什麼是hessen矩陣? 如何判別乙個函式是凸函式?f(x)=x^3 函式是凸函式嗎?

(1)凸函式是乙個定義在某個向量空間的凸子集c上的實值函式f,而且對於凸子集c中任意兩個向量 , 有f((x1+x2)/2)>=(f(x1)+f(x2))/2成立。

在這裡插入描述

(2)黑塞矩陣(hessian matrix),又譯作海森矩陣、海瑟矩陣、海塞矩陣等,是乙個多元函式的二階偏導數構成的方陣,描述了函式的區域性曲率。

在這裡插入描述

(3)對於一元函式f(x),我們可以通過其二階導數f′′(x) 的符號來判斷。如果函式的二階導數總是非負,即f′′(x)≥0 ,則f(x)是凸函式。

對於多元函式f(x),我們可以通過其hessian矩陣(hessian矩陣是由多元函式的二階導數組成的方陣)的正定性來判斷。如果hessian矩陣是半正定矩陣,則是f(x)凸函式。

(4)f(x)=x^3 函式是凸函式嗎?

f』(x)=3x²

f』』(x)=6x

在整個區間f』』(x)不是恆大於等於0的,所以它不是凸函式。

7、什麼是「凸規劃」?如何判別乙個規劃問題是凸規劃問題。舉例說明?

(1)求優化問題§ min f(x),當d為凸集,且函式f(x)為凸函式,則稱該規劃為凸規劃。

(2)與一般的最優化問題標準形式相比。凸規劃有三點附加條件:

a、目標函式f (x)必須是凸函式;

b、不等式約束函式gi(x)必須是凸函式,不等式gi(x)≤ 0組成的區域為凸集;

c、等式約束函式。

(3)考慮下面的極小化問題::

在這裡插入描述

設f(x)是凸函式, gi(x)是凸函式, hj(x)是線性函式。

那麼這個問題的可行域s就是m+l個凸集的交, 還是凸集。

人工智慧與機器學習

現如今,人工智慧與機器學習受到了各行各業的廣泛關注,大眾對其態度不一。但是人工智慧與機器學習對不同的人來說其代表的東西並不相同。通常人工智慧與機器學習會引起人們的恐懼與不確定性,因此一些專家對這兩個術語相關的風險表示擔憂。事實上,人工智慧與機器學習已經成為了我們日常生活中不可分割的一部分,即使在有些...

人工智慧與機器學習目錄

1 anaconda搭建人工智慧與深度學習平台 2 python基礎 python基礎 基礎語法元素 python基礎 基本資料型別 python基礎 組合資料型別 python基礎 程式控制結構 python基礎 函式 python基礎 類和物件 python基礎 檔案讀寫 模組 包和庫 pyth...

人工智慧與機器學習 Review

首先,機器學習是人工智慧的乙個分支,是人工智慧發展到一定階段的必然產物。人工智慧回顧 推理期 二十世紀五十年代到七十年代 認為只要賦予機器邏輯推理能力,機器就具有了智慧型。知識期 盛行於二十世紀七十年代中期 認為使機器具有智慧型,必須具備知識。機器學習期 當今時代 讓機器自己學習知識,以獲得智慧型。...