源/新智元
20世紀70年代初，來自英國的研究生geoffrey hinton開始構建簡單的數學模型，來描述人腦神經元如何在視覺上理解世界。幾十年來，人工神經網路一直被認為是一項不切實際的技術。但在2023年，hinton和他在多倫多大學的兩名研究生利用人工神經網路將計算機識別影象中物體的準確度大幅提公升。這三位研究人員一起創立了一家創業公司，僅僅6個月就被谷歌收購。從前鮮為人知的人工神經網路也開始成為矽谷的熱門話題。
上週，在七國集團(g7)首次的人工智慧會議上，《連線》雜誌採訪了hinton。來自世界主要工業化經濟體的代表們在會上討論了如何開發人工智慧的好處，同時儘量減少失業和演算法歧視等不利因素。
以下是經過編輯的採訪實錄：
《連線》：加拿大總理justin trudeau在g7會議上表示，ai帶來的道德挑戰還需要做更多的努力。你怎麼看?
geoff hinton：我一直擔心致命的自主**有可能被濫用。
我認為應該有乙個類似於《日內瓦公約》的條約來禁止自主**，就像禁止化學**一樣。即使不是每個人都在上面簽名，它的存在也會起到某種道德約束的作用。人們會看誰沒有簽名。
問：有4500多名你的谷歌同事聯名簽署了一封公開信，**一項谷歌與五角大樓的合同，涉及將機器學習應用於無人機影象。谷歌稱這並非用於攻擊性的用途。你在信上簽名了嗎?
hinton：作為一名谷歌的高管，我認為我不應該公開抱怨，所以我是
私下抱怨。我沒有在給[谷歌聯合創始人]謝爾蓋•布林(sergey brin)的信上簽名。他說他對這件事也有點不高興。所以他們後來沒有繼續深究。
問：谷歌的領導決定走完那項合同，但不續簽合同。他們還發布了一系列使用人工智慧的指導原則，其中包括承諾不將該技術用於**。
hinton：我認為谷歌的決定是正確的。會有各種各樣的事情需要雲計算，很難知道在**畫一條線，從某種意義上說，畫線這件事情是相當任意的。我很高興
谷歌畫出了這條線。這些原則在我看來很有意義。
問：人工智慧在日常生活中也會引**理問題。例如，當軟體被用於在社會服務或醫療保健中做決策時。我們應該注意什麼?
hinton：我是讓技術起作用方面的專家，但不是社會政策方面的專家。在這方面，我確實擁有相關技術專長的是，監管機構是否應該堅持要求技術人員解釋你的ai系統是如何工作的。我認為那樣的話，將是一場徹底的災難。
對於現在的ai系統所做的大部分事情，人們無法解釋它們是如何工作的。比如說，當你僱傭乙個人的時候，這個決定是基於各種各樣你可以量化的東西，然後是各種各樣的直覺。人們不知道他們是怎麼做到的。如果你讓他們解釋他們的決定，你是在強迫他們編乙個故事。
神經網路也有類似的問題。當你訓練乙個神經網路時，它會學習十億個數字，這些數字代表了它從訓練資料中提取出來的知識。如果你輸入一張影象，輸出的是正確的決策，比如說，它會回答「這是不是乙個行人」。但是如果你問「它為什麼這麼認為？」好吧，如果有任何簡單的規則能判斷一張影象是否包含行人，那麼這個問題應該很久以前就已經解決了。
問：那麼我們怎麼知道，什麼時候可以信任這些系統呢?
hinton：你應該
根據它們的表現來規範它們。你要執行實驗，看看這個系統是否有偏見，或者它與人類相比，做同樣的事情殺死的人是否更少。對於自動駕駛汽車，我認為人們現在多少接受了這一點。即使你不太清楚自動駕駛汽車是如何做到這一切的，如果它的事故比人駕駛的汽車少得多，那它就是一件好事。我認為我們必須像對待人那樣對待ai：你只需要看看它們表現如何，如果它們反覆執行崩潰，那麼就要說它們不夠好。
問：你曾說過，思考大腦是如何工作的，啟發了你對人工神經網路的研究。我們的大腦通過突觸連線的神經元網路，從我們的感官中獲取資訊的。人工神經網路通過數學神經元網路提供資料，這些神經元由稱為權重的連線連線起來。在上週發表的一篇**中，你和幾位合著者認為，我們應該做更多的工作來揭示大腦中運作的學習演算法。為什麼?
hinton：大腦解決的問題與我們大多數的神經網路非常不同。大腦大約有100萬億個突觸。一般來說，人工神經網路的權重數量比大腦突觸至少要小10000倍。大腦用很多很多的突觸從幾個片段中學到盡可能多的東西。當有很多情節或例子可以從中學習時，深度學習擅長利用神經元之間更少的連線來學習。我認為大腦不關心怎樣把大量的知識壓縮到幾個連線中，它關心的是利用大量的連線快速提取知識。
問：我們怎樣才能構建起更強大的機器學習系統呢?
hinton：我認為我們需要轉向另一種計算機。幸運的是，我這裡有乙個。
（hinton把手伸進皮夾，拿出一塊閃亮的大矽片。這是graphcore的乙個原型，graphcore是一家英國初創公司，致力於開發一種新型處理器，為機器/深度學習演算法提供動力。）
幾乎所有我們執行神經網路的計算機系統，甚至是谷歌的特殊硬體，都使用
ram(儲存正在使用的程式)。從ram中提取神經網路的權重需要耗費大量的能量，這樣處理器才能使用它。所以每個人都要確保一旦他們的軟體獲得了權重，就能多次使用它們。這是巨大的成本，因為你不能為每個訓練樣例改變所做事情。
問：最近對人工智慧和機器學習的興趣和投資激增，意味著用於研究的資金比以往任何時候都要多。該領域的快速發展是否也帶來了新的挑戰?
hinton：機器學習社群面臨的一大挑戰是，如果你想要在機器學習領域發表一篇**，必須要有乙個表，表上首行是各種不同的資料集，沿著左列是各種不同的方法，而且你的方法必須看起來是最好的。如果不是這樣，就很難發表。我不認為這能鼓勵人們去思考全新的想法。
現在，如果你提交的**有乙個全新的觀點，它是沒有機會被接受的，因為它會遇到一些不理解它的初級審稿人。或者你會遇到一位資深審稿人，他審稿的**太多了，但第一次看不懂，認為這肯定是胡說八道。任何費腦子的東西都不會被接受。我認為這很糟糕。
尤其是在基礎科學會議上，我們應該追求的是
全新的想法。因為我們知道，從長遠來看，乙個全新的想法將比乙個微小的改進產生更大的影響。罔顧了這一事實，我認為這是機器學習領域的乙個主要缺點，這個領域資深的人不多，年輕人更多。
問：這會阻礙這一領域的發展嗎?
hinton：只要再等幾年，這種不平衡就會得到糾正。這是暫時的。現在公司都在忙於教育人們，大學也在忙著教育人們，大學最終會在這個領域僱傭更多的教授，它本身會自我糾正的。
問：一些學者警告說，當前的炒作可能會進入「人工智慧的寒冬」，就像上世紀80年代那樣，當時由於進展沒有達到預期，投向ai的興趣和資金都枯竭了。
hinton：不，不會有人工智慧的寒冬，因為ai驅動著你的手機。在過去的人工智慧寒冬，ai並不是人們日常生活的一部分。現在它已經是了。
我不認為我喜歡程式設計
1992年8月初，高考成績公布的第二天，我們數十個上線的同學在教室裡填寫高考志願表。我的第一志願是大連理工學院計算機系 華中師範大學計算機系 華 中理工大學 現在改名為華中科技大學 計算機系 第二志願是南通醫學院臨床醫學 湖北中醫學院臨床醫學 湖北醫學院臨床醫學 第三志願空白。我的高考分數 只比一類...
寫單元測試，我不認為是件容易的事
這是乙個40多歲還在編碼的老程式設計師對單元測試的理解和實踐。裡面沒有廢話，希望每句話能說到你心坎裡。自己的含義 方法邊界內的主體邏輯。一切下游方法 框架依賴 外部io等都不是自己。如spring 外部資料庫都視為外部邏輯。每個方法有自己獨立的單元測試，這有利於ide在單元測試與邏輯 間跳躍，便於定...
馬雲 從不認為自己是首富 我沒有時間花錢
程式設計驛站 wwwwww.cppcns.com.cppcns.com 9 月 21 日訊息 adgwnb此前，馬雲在參加某個會議的時候，表示自己後悔創程式設計客棧辦了阿里巴巴集團，由此誕生了 悔創阿里傑克馬 的綽號。近日，馬雲在接受外媒採訪時再出金句，稱不認為自己是首富並且沒有時間花錢。近日，馬雲...