凸優化學習(一) 介紹

2021-08-19 14:20:21 字數 673 閱讀 5291

注意,本文內容來自於吳恩達老師cs229課堂筆記的中文翻譯專案: 中的凸優化部分的內容進行翻譯學習。

1. 介紹

在很多時候,我們進行機器學習演算法時希望優化某些函式的值。即,給定乙個函式f:r

n→

rf:r^n\rightarrow r

f:rn→r

,我們想求出使函式f(x

)f(x)

f(x)

最小化(或最大化)的原像x∈r

nx\in r^n

x∈rn

。我們已經看過幾個包含優化問題的機器學習演算法的例子,如:最小二乘演算法、邏輯回歸演算法和支援向量機演算法,它們都可以構造出優化問題。

在一般情況下,很多案例的結果表明,想要找到乙個函式的全域性最優值是一項非常困難的任務。然而,對於一類特殊的優化問題——凸優化問題,我們可以在很多情況下有效地找到全域性最優解。在這裡,有效率既有實際意義,也有理論意義:它意味著我們可以在合理的時間內解決任何現實世界的問題,它意味著理論上我們可以在一定的時間內解決該問題,而時間的多少只取決於問題的多項式大小。(譯者注:即演算法的時間複雜度是多項式級別o(n

k)

o(n^k)

o(nk

),其中k

kk代表多項式中的最高次數)

Spring Batch學習(一)介紹

我們不會總是想要立即得到需要的資訊,批處理允許我們在請求處理之前就乙個既定的流程開始蒐集資訊 比如說乙個銀行對賬單,我們可以按月生成,並在使用者查詢之前開啟乙個批處理流程進行處理 更好的利用資源 讓應該利用的處理能力閒置起來是乙個大的浪費,我們可以定製處理讓乙個機器乙個接乙個的執行job可以更好的利...

Redis學習筆記(一) 介紹

redis 是乙個開源的高效能鍵值對資料庫 他通過提供多種鍵值資料型別來適應不同場景下的儲存需求,並借助許多高層級的介面使其可以勝任如快取 佇列系統等不同的角色。redis是remote dictionary server 遠端字典伺服器 的縮寫,他以字典結構儲存資料,並允許其他應用通過tcp協議讀...

RabbitMQ學習系列(一) 介紹

1.介紹 rabbitmq是乙個由erlang開發的基於amqp advanced message queue 協議的開源實現。用於在分布式系統中儲存 訊息,在易用性 擴充套件性 高可用性等方面都非常的優秀。是當前最主流的訊息中介軟體之一。rabbitmq的官網 2.amqp amqp,是應用層協議...