深度學習瓶頸

2021-10-02 19:12:48 字數 392 閱讀 8130

1.需要大量樣本

雖然有一些方法可以減少對資料的依賴,比如遷移學習、少樣本學習、無監督學習和弱監督學習。但是到目前為止,它們的效能還沒法與監督學習相比。

2.過度擬合基準資料

3. 對影象變化過度敏感

對於任何乙個目標物件,資料集中只有有限數量的場景。在實際的應用中,神經網路會明顯偏向這些場景。

「組合**」

就說視覺領域,真實世界的影象,從組合學觀點來看太大量了。任何乙個資料集,不管多大,都很難表達出現實的複雜程度。

「解決之道」

靠組合模型培養泛化能力,用組合資料測試潛在的故障。

深度學習領域有什麼瓶頸?

知乎 深度學習領域有哪些瓶頸?peng bo的回答 知乎 個人認為,當前深度學習的瓶頸,可能在於 scaling。是的,你沒有聽錯。我們已經有海量的資料,海量的算力,但我們卻難以訓練大型的深度網路模型 gb 到 tb 級別的模型 因為 bp 難以大規模並行化。資料並行不夠,用模型並行後加速比就會大打...

程式設計師的發展瓶頸 如何突破瓶頸,瓶頸 突破瓶頸

首先要做到下面這些.1.自學能力是競爭力之本 2.自信能讓你與眾不同 3.興趣是學習效率的催化劑,培養自己的職業興趣。4.設定專案目標,以做專案的形式提公升學習效果,切忌無目標地學到哪算哪。5.話語權首先來自能力。6.難學的技能一旦掌握更具競爭優勢。7.用階段性成果不斷增強自己的自信,但最終支援自信...

如何跨過程式設計學習的瓶頸

今天看到一篇文章,寫得不錯,藉此送給初學程式設計的朋友們,雖然寫的是php程式設計學習,但我認為它同樣適用於其他的所有語言。千軍萬馬過獨木橋 這句話用來形容程式設計的學習過程好像在適合不過了。php也不例外,大量的語法結構,函式式,物件導向和高密度封裝等把小鳥們 剛開始學習程式設計的激情一點一點的磨...