NeurIPS 2019最熱趨勢 貝葉斯深度學習

2021-10-01 15:51:59 字數 674 閱讀 7971

貝葉斯原理,總感覺憋著,不透。關注到一篇文章介紹nips2019最新趨勢中有關於貝葉斯深度學習的,還是擔心鏈結失效,部落格這裡mark關鍵資訊。

關鍵內容:

總結貝葉斯在機器學習中的優缺點有:

1)優點:天然的扛過擬合(先驗約束,引數優化過程降低對訓練資料的依賴),求引數空間積分進行**具有整合學習能力,超參最優化可以求稀疏解降低模型複雜度(典型應用是rvm);

2)缺點:不適合大型資料集。

貝葉斯原理在理論和方法上遵循:mle(相當於ls)->map(相當於ls+regularization, l1相當於拉普拉斯先驗分布,l2相當於高斯先驗分布)->inference三個層次,其中inference涉及到指數分布家族解析解、拉普拉斯近似、取樣法求解(mcm,vi)。

貝葉斯在小資料集上的抗過擬合以及不確定估計在實驗過程是可以證明,但其可解釋性(先驗假設)似乎沒關注到**,在醫學領域是可以探索的乙個方向。

配置NeurIPS 2019 競賽環境

1.直接按照官網進行 3.第乙個問題 安裝不了pyopengl 解決方法1 單獨執行 pip install pybullet解決方法2 單獨執行 conda install c anaconda pyopengl4.第二個問題 缺少 pybullet data 來到這個路徑看一下 anaconda...

2019雲計算趨勢

雲計算是乙個快速發展的野獸,新的趨勢和技術一直在湧現,不少分析師將2019年定位為企業採用雲計算以推動數位化轉型工作的一年。到2019年,雲計算將成為將顛覆性創意,2019全球雲計算市場將超過2000億美元,比去年增長20 下面是從技術方面和大型 商方面對2019年雲計算的前景 混合雲動力 隨著11...

2023年新詞兒「小趨勢」

2019年羅胖跨年演講上提到乙個新詞兒 小趨勢 官釋為 影響趨勢的趨勢,帶來改變的改變。下面用2個故事來形象化 小趨勢 這個詞。故事一 通訊4g牌照的頒發與跨行業的餐飲企業上市有關係嗎?餐飲企業以往多是現金交易,採購和經營的賬目不透明,對上市構成了一定障礙。隨著4g牌照的頒發,移動支付快速興起,餐飲...