遠離神經網路這個黑盒,人工智慧不止這一條路可走

2022-03-16 07:28:51 字數 2406 閱讀 4323

** |《連線》 編譯整理 | 量子位 若朴

神經網路橫掃矽谷如捲席,各式各樣的人工智慧(ai)已經潛入各式各樣的網際網路服務之中。不過就算神經網路已經能輕鬆的認出貓咪的,但仍然有很多不足之處,所以一些人懷疑目前人工智慧的模式識別系統,是否是一種先進、可靠的ai發展之路。

無論是facebook的面部識別、微軟的翻譯或是google的搜尋,背後都是神經網路通過分析大量資料學會執行任務。人工智慧幫助聊天機械人學習談話的藝術,幫助無人駕駛汽車駛上公路。但是如果沒有大量仔細標註的資料,ai並不能理解世界,也不通用。

另一方面,研究人員對神經網路的工作原理了解有限,很多時候,人工智慧就是乙個黑盒子。這種不透明導致了嚴重的問題:如果一輛無人駕駛的汽車撞上了行人,可能人們也無從得知為什麼人工智慧會做出這樣的決定。

「深度學習確實得到了很多關注,它確實值得關注」,卡內基梅隆大學電腦科學教授tuomas sandholm說,「但是深度學習不能給你任何保證」。如果你之前看了量子位的文章,立刻能意識到這位教授就是ai賭神libratus的創造者。

教授說的一點不錯。由於神經網路中這些明顯的弱點,科技巨頭們正在尋找新的人工智慧發展路徑,最近的招聘、收購、研究以及新成立的創業公司,都瞄準了乙個新的方向。

貝葉斯方法正在興起。依照這種理論,可以通過正統的科學方法研究人工智慧:從乙個假設開始,然後技術資料更新這個假設,而不是像神經網路那樣依賴資料推動結論。貝葉斯方法可以用來處理不確定性,可以為現有模型提供新的證據,可以做神經網路不擅長的事情。

和神經網路一樣,貝葉斯方法可也從資料中學習,但完全是兩乙個路數的機器學習。「我們感興趣的是讓科學方法自動化」,創業公司gamalon的創始人ben vigoda說,他們正在通過概率程式設計的方法推動這目標前進。

神經網路的快速崛起,也為眾多的其他技術注入了生命力,這些技術都能讓機器變得更聰明。從強化學習到進化計算,機器學習不只有一條路可走。

迷之科技

去年12月,當gary marcus把他只有15個人的創業公司賣給uber時,他說自己帶來了一種全新的人工智慧。

他的公司名叫幾何智慧型,乙個有著雄心的小作業系統。這位47歲的紐約大學心理學教授表示,他和他的研究夥伴們正在開發一種系統,可以僅僅憑藉很小的資料量學會執行任務,就像是人類一樣,這種方式蘊含的能量遠超深度神經網路。

marcus認為,小資料系統對於對話機械人以及行駛在公共道路上的無人車而言,是必不可少的。「語言領域和無人車領域都有一些問題,例如永遠缺乏足夠的資料驅動強力的深度學習」,他說畢竟我們不能在繁忙的道路上撞毀車輛,用以收集資料避免未來的事故。

劍橋大學資訊工程教授zoubin ghahramani是marcus的聯合創始人,他倆都不願因談及上述技術的細節。這在技術世界一點都不罕見,特別是與ai相關的部分,各種秘而不宣造就了一些迷之科技。不過,ghahramani也是貝葉斯方法的擁躉。

ghahramani專門研究一種稱為高斯過程的特定型別統計模型,這有可能在他與marcus的研究過程中發揮了作用。

高斯過程

在某些方面,高斯過程是找到特定問題最優解的一種方式。這也是另一種數學技術貝葉斯優化的基礎。高斯過程已經用於幫助**決定應該顯示那些廣告,或者**主頁應該如何優化。uber一直在招聘高斯過程方面的專家以改善服務,google也用高斯過程來協助控制高空網際網路氣球。

從根本上講,高斯過程是識別不確定性的好方法。「知道你不知道是一件非常好的事情」,愛丁堡大學ai研究員chris williams說,「做乙個自信的錯誤決定是最糟糕的事情」。他也是高斯過程和機器學習方面的權威作者。

2023年被twitter收購的初創公司whetlab,就為設計神經網路提供了乙個更好的方法。設計神經網路是乙個極端試錯的任務,困難且耗時。但是高斯過程和貝葉斯優化可以幫助自動完整這個任務。正如whetlab的創始人、哈佛的計算機科學家ryan adams所說的,這家公司正使用「機器學習來改進機器學習」。

神經網路會遇到「自信的錯誤」困擾,在識別不確定性時,這種優化可以幫助決絕問題。現在adams已經離開twitter加入google brain。

一些研究人員還認為,高斯過程的小資料能力,可以推進自主化ai方面發揮關鍵作用。「為了建立乙個真正自主化的**,它必須能夠快速適應環境」,ai創業公司prowler的首席執行官vishal chatrath說,「這意味著從高效的從資料中學習」。

此外,chatrath表示高斯過程很容易解釋,這個技術與神經網路不同,它不受制於黑盒問題的束縛,如果發生問題,人們可以追蹤原因。

prowler聘請了三位學者從事這方面的研究。這家公司正在搭建一套ai系統,可以從大型多人遊戲和其他數字世界中學習無人駕駛技術。這是乙個複雜的工作,但他們希望這能有助於在現實世界進行無人駕駛汽車的導航。

而亞馬遜最近也聘請了一位專門研究貝葉斯技術的ai研究院:謝菲爾德大學計算機科學家neil lawrence。《不要驚慌》,這是lawrence最近發表的一篇部落格,他在文中說「通過使用數學工具來應對新一波的深度學習,我們可以確保它們基本上是無害的」。

人工智慧和神經網路

人工智慧的發展飛快,這也得益於人工智慧的技術成熟。而人工智慧離不開神經網路,神經網路在人工智慧的發展中也是走過了十分崎嶇的道路,那麼究竟是怎麼一回事呢?我們在這篇文章中給大家介紹一下這個問題。每乙個科學的技術發展程序都是十分相似的,如果我們從歷史來看,就能夠發展一件十分有意思的事情,重大科學的研究往...

人工智慧 深層神經網路

對於人臉識別等應用,神經網路的第一層從原始中提取人臉的輪廓和邊緣,每個神經元學習到不同邊緣的資訊 網路的第二層將第一層學得的邊緣資訊組合起來,形 臉的一些區域性的特徵,例如眼睛 嘴巴等 後面的幾層逐步將上一層的特徵組合起來,形 臉的模樣。隨著神經網路層數的增加,特徵也從原來的邊緣逐步擴充套件為人臉的...

人工智慧04 神經網路

這裡我們集中討論具有可調節權值的tlu網路。網路系統通過不斷調節權值,直到其動作計算表現令人滿意來完成學習。tlu網路稱為神經網路是因為它模仿了生物神經元的一些特性。首先介紹如何訓練單個tlu權值,從而使其對某一些訓練集合產生正確的輸出。首先簡要介紹下神經網路。神經網路的每個單元如下 其對應的公式如...