人工智慧三大瓶頸 姚期智

2021-10-25 08:46:03 字數 1608 閱讀 1612

姚期智在2023年浦江創新論壇的演講:

人工智慧存在三大技術瓶頸:

魯棒性、機器學習演算法缺乏可解釋性、人工智慧的對抗性較弱

一. 魯棒性

關於魯棒性問題,可以解釋成脆弱性、非安全性、非可靠性問題。人工智慧系統設計歷來重功能性設計,輕可靠性、安全性設計;或先功能性,後安全性、可靠性。

在早期產品中這一現象尤為嚴重。在自動駕馭汽車領域,最終制約因素是安全性、可靠性問題,未來,無人駕駛汽車研發會因可靠性、安全性問題,成為「永在途中」的課題。

在姚期智看來,脆弱性是人工智慧面臨的第一大技術瓶頸。人眼識別十分穩定,乙個影象如有微小改變,人仍能一眼看出它是什麼,而人工智慧在影象識別上卻是能力不足,比如將乙隻小豬的**加入一些影象「雜音」,機器視覺系統可能會把它識別為飛機。「小豬變飛機」這種漏洞會給人工智慧應用帶來安全隱患。

二. 可解釋性

關於可解釋性,可以理解成廣義的開源性。可解釋性就是如何讓人們深入了解人工智慧系統。以汽車為例,在工業革命時代,汽車駕駛者們對汽車原理、結構一目了然;現在,汽車對於駕駛員而言只是乙個黑盒子,只有方向盤、油門、剎車這樣乙個應用介面。

相比而言,工業革命時代的汽車有高度的可解釋性,人工智慧的新興汽車無可解釋性。同樣,手機、數位相機、電視機相較於**機、照相機、電子管電視機而言,無可解釋性,對所有使用者都是黑盒子,無人去拆解、修理,去了解其內部結構,這是一種十分現實、十分先進的人工智慧產品的傻瓜化應用模式,它將知識創新與創新知識應用徹底分離。

然而,對於人工智慧創新領域,不可解釋性是乙個技術創新的巨大障礙。硬體的透明、軟體的開源,一定程度上解決了技術創新的可解釋性障礙。

目前,可解釋性障礙突出表現在演算法領域(人工智慧三大基礎之一),它阻礙演算法的推廣、評價與市場化,演算法的碎片化現象會嚴重阻礙人工智慧的發展。

三. 對抗性

第三大技術瓶頸是人工智慧的對抗性較弱。

如今,乙個無人機群可輕鬆完成燈光秀、農林作業等任務,但要看到,這些任務都是在自然環境下完成,如果是處於高對抗的人為環境中呢?

比如在電子競技和軍事戰鬥中,無人機群的協同作戰能力就會受到很大考驗,要在對抗中勝出,需要電腦科學、數學等領域的科學家進行深入的強化學習、博弈論研究,讓無人機群能在高對抗環境中自主找到最優策略。「這是乙個很重要的科研方向。

早年在清華大學的一次演講中,他提出了人工智慧時代的「大科學」概念。它表明:人工智慧時代,已進入到諸多強勢科學的交叉融合發展時代,各個強勢學科都會以自己的視角詮釋人工智慧。

此次演中,姚期智提到超人工智慧,並提出對超人工智慧的三點期望。過去人們一直把人工智慧分成弱人工智慧與強人工智慧。

弱人工智慧始於半導體微處理器誕生,是對人類智力的人工**;強人工智慧始於大腦工程,是人工智慧的智力創新時代。

由於人工智慧超高速度的瘋狂發展,人們無法預見人工智慧的未來,便有了後強人工智慧的超人工智慧概念。姚期智認為超人工智慧具有很大的不確定性,人類會面對諸多種潛在威脅。

對於超人工智慧的未來,姚期智給出了未來制約智慧型機器的三個原則:

一是利他,即人的利益凌駕於機器;

二是謙卑,即機器不能自以為是;

三是盡心,即機器能學懂人的偏好。每個原則都要用嚴格的演算法來實現,這樣就能有效駕馭人工智慧。

這是乙個對未知時代的理性期望,希望人工智慧最終能走向理性化道路。

人工智慧三大派

話說人工智慧有三派 第一派 學工派 理論與實踐相結合派 第二派 學術派 裝逼吹牛派 第三派 工程派 實踐派 本人認為 三個派各有所長,無論你現在處於哪個派只要努力都可成為第一派,但是如果你是從工程派到第一派,那麼你就是實踐與理論相結合,這樣的就相當於牛頓發現萬有引力是一樣的。學術派發展到第一派,相當...

人工智慧三大學派

若從1956年正式提出人工智慧學科算起,人工智慧的研究發展已有50多年的歷史。這期間,不同學科或學科背景的學者對人工智慧做出了各自的理解,提出了不同的觀點,由此產生了不同的學術流派。期間對人工智慧研究影響較大的的主要有符號主義 連線主義和行為主義三大學派。符號主義 symbolism 是一種基於邏輯...

醫療資料難獲得,人工智慧醫療發展遭遇瓶頸期

過去幾年間,大量家用血糖儀 血壓計 手環等裝置已經進入普通人生活,收集了大量資料。而醫院也意識到醫療資料的價值,紛紛開始把醫療資料 上雲 存入雲儲存器中 雲計算的能力公升級也讓以前耗時費力的資料處理變得更容易。而以深度學習為代表的新一代人工智慧技術對醫療影像 醫療資料的處理能力也有了很大變化。人工智...