隨著深度學習的不斷進步以及資料處理能力的不斷提公升，各大研究機構及科技巨頭相繼對深度學習領域投入了大量的資金和精力，並取得 了驚人的成就。然而，我們不能忽略的乙個重要問題是，深度學習實際上仍然存在著侷限性：
度學習的效能，能否提公升取決於資料集的大小，因此深度學習通常需要大量的資料作為支撐，如果不能進行大量有效的訓練，往往會導致 過擬合(過擬合是指深度學習時選擇的模型所包含的引數過多，以至於出現這一模型對已知資料**得很好，但對未知資料**得很差的 現象)現象的產生。
深度學習能夠發現事件之間的關聯性，建立事件之間的對映關係，但是深度學習不能解釋因果關係。簡單來說，深度學習學到的是輸入與 輸出特徵間的複雜關係，而非因果性的表徵。深度學習可以把人類當作整體，並學習到身高與詞彙量的相關性，但並不能了解到長大與發 展間的關係。也就是說，孩子隨著長大會學到更多單詞，但這並不代表學習更多單詞會讓孩子長大。
在人類看來，對進行區域性調整可能並會不影響對圖的判斷。然而，深度網路不僅對標準對抗攻擊敏感，而且對環境的變化也會敏感。 下圖顯示了在一張叢林猴子的**中ps上一把吉他的效果。這導致深度網路將猴子誤認為人類，同時將結他誤認為鳥，大概是因為它認為 人模擬猴子更可能攜帶吉他，而鳥模擬吉他更可能出現在附近的叢林中。
圖：新增遮蔽體會導致深度網路失效。左：用電單車進行遮擋後，猴子被識別為人類。中：用自行車進行遮擋後，猴子被識別為人類，同 時叢林背景導致自行車把手被誤認為是鳥。右：用結他進行遮擋後，猴子被識別為人類，而叢林把結他變成了鳥.
類似地，通過梯度上公升，可以稍微修改影象，以便最大化給定類的類**。通過拍攝乙隻熊貓，並新增乙個「長臂猿」梯度，我們可以得到 乙個神經網路將這只熊貓分類為長臂猿。這證明了這些模型的脆弱性，以及它們執行的輸入到輸出對映與我們自己的人類感知之間的深刻 差異。
深度學習可以在不理解資料的情況下模仿資料中的內容，它不會否定任何資料，不會發現資料中隱藏的偏見，這就可能會造成最終生成 結果的不客觀。
人工智慧目前具有的乙個非常真實的風險——人們誤解了深度學習模型，並高估了它們的能力。人類思想的乙個根本特徵是我們的「思想理 論」，我們傾向於對我們周圍的事物設計意向、信仰和知識。在岩石上畫乙個笑臉，突然讓我們「開心」。應用於深度學習，這意味著，例 如，當我們能夠成功地訓練乙個模型以生成描述的說明時，我們誤認為該模型「理解」了的內容以及所生成的內容。但是，當 訓練資料中的影象存在輕微的偏離，使得模型開始生成完全荒謬的說明時，我們又非常驚訝。
案例：這個「男孩」正拿著乙個「棒球棒」（正確說明應該是「這個女孩正拿著牙刷」）
檔案修改時間 2019-06-17 23:15:12
揭秘深度強化學習 1簡述
看完覺得深受啟發的一篇文章，根據自己的理解翻譯過來留以後再次翻看 某年某月某一天，deepmind在arxiv上發表 playing atari with deep reinforcement learning 在這篇 中，他們證明了一台計算機是如何只通過 觀察螢幕的畫素點 和 遊戲分數增加時獲得獎...
簡述機器學習與深度學習基礎概念以及基本模型
2.2非監督學習 2.3半監督學習 2.4強化學習 三.深度學習基礎 3.前饋神經網路 4.卷積神經網路 cnn 3.2概念解釋 3.2.2反向傳播 3.2.3損失與優化 3.2.4距離公式 3.2.5 啟用函式 簡單來說就是給你乙個輸入向量x,給你乙個輸出向量y 乙個x對應乙個y，然後經過你的訓練...
深度學習 簡述卷積層如何檢測物體邊緣原理
對計算機視覺與深度學習有所了解的同學應該知道影象卷積可以識別出物體，在神經網路的前幾層，識別出物體最基礎的例如垂直或是水平的邊緣。在之後的隱藏層慢慢可以識別出物體的部分，直到最後幾層可以識別出完整的物體。本篇文章主要介紹卷積層為何可以檢測出這些。先介紹乙個概念，過濾器 這是乙個3 3的過濾器，是乙個...