非線性假設

2021-09-14 05:55:51 字數 1195 閱讀 4519

之前我們學習的logistic回歸的基本知識,現在我們來討論你一下它在特徵較多的情況下的反應:

我們用之前比較熟悉的房屋的問題來進行討論,現在我們根據下圖的訓練集來將房屋能否在未來今年賣出去分類。

我們如圖所示,畫出了分界線。

在這裡我們假設影響房屋賣出與否的因數有n=100個,x1到x100,這裡簡單起見,假設函式我們只考慮平方項。

但是由於特徵為n=100,假設函式有大約5000項之和。如果我們還考慮3次項,你會發現,假設函式是大約n的3次方個項之和。

這個結果太複雜了。然而在機器學習的一些應用中,例如影象識別,你會發現它們要考慮的特徵的個數會比100更大。

下面我們再看乙個計算機視覺中乙個影象識別的例子:

看到上圖的第一眼,我們大腦裡面就給出了反應,這個是一輛汽車。但是你會驚奇,這個我們覺得一目了然的結果,對於學習了演算法的計算機而言卻是不知道是什麼。

我們以乙個點放大來說明計算機是如何識別這張圖的,上圖中的乙個點放大後,在計算機中顯示的是乙個矩陣,裡面是各個點的畫素大小。計算機就是根據這些畫素的值,來分析出這個影象是乙個門把手。

在乙個汽車識別的系統中,我們首先給出許多汽車的影象若左邊所示,然後再給出許多的不是汽車的影象如右邊所示。然後我們給出一張新的影象,計算機機會根據之前給出的的資料,來將這張新的分類,判斷是否為汽車。

在汽車識別的例子中,我們只考慮兩個點的畫素,我們將許多的的結果標記在乙個座標系中,正為汽車,負為非汽車。我們給出了大量的訓練集。但是你會發現,即使我們只考慮50x50px的小,我們要分析的特徵x也有2500個,如果是彩色將會是7500個,這個結果對我們之前所使用的logistic回歸演算法來說過於複雜。所以這種複雜的問題(特徵過多),我們要使用之後學習的神經網路演算法。

固體力學之非線性 小變形假設

在結構力學的模擬中存在三種非線性 1.材料非線性 塑性 超彈性和蠕變 大多數的金屬在低應變值時具有良好的線性的應力 應變關係,但是在高應變時材料發生屈服,此時材料的響應為非線性的,不可恢復的。非線性的應力應變關係是結構非線性的常見原因,許多因素都可影響材料的應力應變關係,包括載入歷史,環境狀況,載入...

線性與非線性

就是變數是一次的就叫做線性,否則就是非線性。不過每個具體問題都不盡相同。1.比如線性函式,就是自變數都是一次的,f x1,x2,xn a0 a1x1 a2x2 anxn 線性 與 非線性 常用於區別函式y f x 對自變數x的依賴關係。線性函式即一次函式,其影象為一條直線。其它函式則為非線性函式,其...

非線性優化

問題的一般表達 x 是 n 維實向量 x x x t in r n,s是 r n 的子集,f 0 x f m x 是x相關的實值函式。我們所要解決的主要是以下最小問題的變體 min f 0 x s.t.f j x 0,j 1.m,x in s,其中 可以是 geq,leq or f 0 是問題的目標...