「前進!前進!不擇手段地前進!」 托馬斯 維德

2021-07-17 05:31:28 字數 2032 閱讀 7790

冷靜對待現在鋪天蓋地的*****,板凳要坐十年冷。

田淵棟卡耐基梅隆大學機械人系博士,facebook人工智慧組研究員,在知乎上解答:

本來我們這領域步調就快,因為雜誌**的內容滯後,大家都看會議**,一年兩三個頂會,半年一年的研究週期。但因為是雙盲評審,就算有別人和自己做得相近,投稿時也是兩不知曉,大不了同時中稿同時發文。arxiv的出現,允許任何人將自己的工作發表在網上,讓同行們即時看到,讓這一領域的競爭變本加厲。乙個例行的功課是每週甚至每天都要刷一下arxiv看看有沒有好文章,更重要的是看看有沒有工作和自己目前正在做的重合。每當有乙個新想法新思路,必須得馬上做完,只要拖一兩個月就不再是你的了,因為別人已經捷足先登,直接放篇文章出來把你一悶棍打死,叫也叫不出來。之前的計算機圍棋已經血淋淋地展示了這一點,一切在幾個月內發生,我們讓其它做圍棋的同行們鬱悶,然後alphago又讓我們鬱悶,昨天還是眾星捧月,今日便少人問津,雖說是世態炎涼,卻正是人之常情。程式和框架的開源也加劇了這一過程,本來重現別人的方法不僅痛苦更是耗時,但現在都是拿來即用,各項成本為零。而想要保持領先優勢,隱藏自己的小技巧小把戲那是沒有意義的,一年發表的文章多如過江之鯽,誰不開源或者晚開源,誰就被遺忘在歷史的角落裡了。去年nips大家都在談論resnet,我們組在resnet出來的24小時之內寫完了程式並且已經開始了在imagenet上的訓練,並且很快確認了它的效果。tensorflow剛剛開源,組裡的骨幹就忙到凌晨三點半完成了評測。大凡說自己的工作厲害卻不發布程式的,除非像alphago那樣動用大量硬體資源的系統,不然自會有人評判,而且速度飛快。有一次有一篇arxiv報告了cifar更好的結果,馬上在reddit上被人質疑,然後公開**,被人發現在測試集上訓練的低階錯誤,只得黯然撤稿。接鍾而來的是開會的味道也發生了變化。開會的原意,是去領略最新進展的,現在去開會則是懷舊,滿眼都是半年一年前的老文章,有一種穿越回去的即視感和莫名喜感。海報上寫著「我們是最牛的」,觀眾在一旁看著,笑而不語。大家談論的往往不是目力所及的演講或是海報,而是剛剛在arxiv上冒出來的新作,這個「剛剛」,可能指上週,可能指昨天,也可能指幾小時之前,方才還為小小的成果而沾沾自喜,轉眼間就如一桶冰水當頭澆下,魂不守舍,夜不能寐,食不知味。相比其它方向動輒半年一年的審稿週期,迭代之快,更新之速,史無前例。我有時候在想,以後除了餓醒胖醒春夢醒,還要加個arxiv醒,夢見自己的神思路被別人做了,或是夢見投稿前幾天遭遇當頭棒喝,大汗淋漓之下猛然醒來,而後抹一把臉謝天謝地。在這樣的壓力下,人的思維方式也發生了改變。目前為止,我們還沒有對深度學習有深層次的本質理解,大量的研究思路都是簡單粗暴的,在計算資源極大豐富的今天,對於它們質量的主觀判斷,經常遠不及寫**上機實驗來得快與準。很多想法不論對錯,不論它看起來有多離譜荒謬,先試一下再說,往往蒙得比想得快,動手比動腦快。和我們每天刷手機類似,思維方式的這種轉變是好是壞,目前還無從評判。這樣的做法,完全可以歸入浮躁和急功近利之流,與傳統學術做法背道而馳——但與口舌之爭相比,這樣的方案還在不斷地出成果,還在推動著技術的進步,做成更好的系統。我們一邊抱怨谷歌機器太多調參太猛,免不了批判如此風氣,另一邊還在準備著大量gpu雄心勃勃地上戰場。不管怎樣,可以預計的是,憑一人一紙一筆去戰勝難題,令人敬仰卻鮮有效率;而讓計算機參與推理過程和判斷,終會成為每個人生來的必修課。從這個趨勢上來看,能快速利用各種工具達成目標的,能快速閱讀及寫出**的,有強大工程能力的,在就業市場上都有巨大優勢;若是再有基礎紮實,能快速讀懂文章,從中獲取新知識並舉一反三,經驗豐富,看文能抓住要點痛點下手,從紛繁想法中修剪思路,那就是老手了;再上一層,有戰略眼光,能從萬千文章中看出大勢遠景,巧妙定題,以最小代價獲取最大收益,那就是一流高手,能站在前沿火線,直接推動領域的發展。然而要做到這一步,需要在這樣的快速迭代中靜下心來積累經驗,日久方能見效。人工智慧火爆的背後,是多少天才你來我往的戰鬥,在這個高維空間裡攻城拔寨,刺刀見紅。雖然累點苦點,卻正是這個領域的誘人之處和希望所在。與苦與累相比更可怕的,是舒適安逸時卻因技能陳舊而被解職,徘徊天地間,無處可去。我無法想像那種絕望感,所以還是緊追時代的腳步吧,至少我們還能看見技術發展的軌跡,為它出乙份力。在這個領域裡,只要工具運用得當,思路巧妙,每個人都有成為超人的潛質,乙個好演算法好框架可服務千萬人,且24小時工作,不會出錯,不會疲勞,這在以前完全不可想像。正所謂:靈工巧技匯涓流,奔騰到今浩無垠;誰料矽砂一捧土,更勝周郎百萬兵。

**:知乎田淵棟主頁

向著目標前進

一 你今天做了哪些事幫助自己向目標前進?二 你今天學習到哪些知識對自己完成目標有貢獻?三 為達到目標你還需要做什麼?今天參加了 職業生涯與個人發展 講座,感覺有幫助,總結一下。職業規劃不是讓自己變成別人,而是發揮自己的優勢,成為真正的自己。一 認識自己 自己感覺 別人評價 各方面綜合了解 認識自己所...

前進,字元陣列

1620 7 唐大智 2016年10月26日 連續第二十六天總結 內容 a 字元陣列的定義格式 char 陣列名 陣列大小 與字串相比較,字串含有結束標記 0 而字元陣列的內容是可以改變的,不一定含有字串結束標記。b 初始化字元陣列 通常有2種情況 1 直接用字串對字元陣列初始化。char s1 1...

勇敢的前進

我,今年20 歲,乙個帥到不行,青春的不得了的 年齡,我還在讀書 是的.現在的我 必須要爭取到學位 然後飛到陛下所在的城市 還躲在家人的雨傘下,還不怕會淋到雨,可以說很幸運很幸福,偶爾會無病呻吟的裝成熟,偶爾也自以為是的裝憂鬱,但,這都是青春期的幼稚表現,每個人都會有,每個人的狀態也都不大相同,一切...