機器學習基礎知識(一) 機器學習三大流派

2021-10-08 07:31:13 字數 1771 閱讀 2595

行為主義又稱為進化主義或控制論學派,是一種基於「感知——行動」的行為智慧型模擬方法,行為主義最早**於20世紀的乙個心理學流派,認為行為是有機體用以適應環境變化的各種身體反應的組合,它的理論目標在預見和控制行為。

其側重核心在於控制論,認為人工智慧源於控制論。控制論思想早在20世紀40~50年代就成為時代思潮的重要部分,影響了早期的人工智慧工作者。維納(wiener)和麥克洛克(mcculloch)等人提出的控制論和自組織系統以及錢學森等人提出的工程控制論和生物控制論,影響了許多領域。控制論把神經系統的工作原理與資訊理論、控制理論、邏輯以及計算機聯絡起來。早期的研究工作重點是模擬人在控制過程中的智慧型行為和作用,如對自尋優、自適應、自鎮定、自組織和自學習等控制論系統的研究,並進行「控制論動物」的研製。到20世紀60~70年代,上述這些控制論系統的研究取得一定進展,播下智慧型控制和智慧型機械人的種子,並在20世紀80年代誕生了智慧型控制和智慧型機械人系統。行為主義是20世紀末才以人工智慧新學派的面孔出現的,引起許多人的興趣。這一學派的代表作者首推布魯克斯(brooks)的六足行走機械人,它被看作是新一代的「控制論動物」,是乙個基於感知-動作模式模擬昆蟲行為的控制系統。

連線主義又稱仿生學派或生理學派,是一種基於神經網路及網路間的連線機制與學習演算法的智慧型模擬方法,其原理主要為神經網路和神經網路間的連線機制和學習演算法,之一學派認為人工智慧源於仿生學,特別是對人腦模型的研究。

它的代表性成果是2023年由生理學家麥卡洛克(mcculloch)和數理邏輯學家皮茨(pitts)創立的腦模型,即mp模型,開創了用電子裝置模仿人腦結構和功能的新途徑。它從神經元開始進而研究神經網路模型和腦模型,開闢了人工智慧的又一發展道路。20世紀60~70年代,連線主義,尤其是對以感知機(perceptron)為代表的腦模型的研究出現過熱潮,由於受到當時的理論模型、生物原型和技術條件的限制,腦模型研究在20世紀70年代後期至80年代初期落入低潮。直到hopfield教授在2023年和2023年發表兩篇重要**,提出用硬體模擬神經網路以後,連線主義才又重新抬頭。2023年,魯梅爾哈特(rumelhart)等人提出多層網路中的反向傳播(bp)演算法。此後,連線主義勢頭大振,從模型到演算法,從理論分析到工程實現,偉神經網路計算機走向市場打下基礎。現在,對人工神經網路(ann)的研究熱情仍然較高,但研究成果沒有像預想的那樣好。

符號主義是一種基於邏輯推理的智慧型模擬方法,又稱為邏輯主義、心理學派或計算機學派,其原理主要為物理符號系統假設和有限合理性原理,長期以來在人工智慧中處於主導地位。

其核心側重於數理邏輯。數理邏輯從19世紀末起得以迅速發展,到20世紀30年代開始用於描述智慧型行為。計算機出現後,又在計算機上實現了邏輯演繹系統。其有代表性的成果為啟發式程式lt邏輯理論家,它證明了38條數學定理,表明了可以應用計算機研究人的思維過程,模擬人類智慧型活動。正是這些符號主義者,早在2023年首先採用「人工智慧」這個術語。後來又發展了啟發式演算法》專家系統》知識工程理論與技術,並在20世紀80年代取得很大發展。符號主義曾長期一枝獨秀,為人工智慧的發展作出重要貢獻,尤其是專家系統的成功開發與應用,為人工智慧走向工程應用和實現理論聯絡實際具有特別重要的意義。在人工智慧的其他學派出現之後,符號主義仍然是人工智慧的主流派別。這個學派的代表人物有紐厄爾(newell)、西蒙(simon)和尼爾遜(nilsson)等。

ps:目前,不論是符號主義(傳統機器學習)還是連線主義(深度學習)都已大放光彩,可以預見的行為主義流派也會逐步迎來繁盛期。之所以會有如此的推斷,是因為控制論與系統是分不開的,而乙個系統的**是離不開巨大的運算量。當硬體算力的進一步提公升,對一些複雜系統的模擬運算可以快速實踐時,那麼諸如複雜性系統中的演化和湧現的等現象會為人工智慧帶來更長足的進步。

一 機器學習基礎知識

談到人工智慧 深度學習,相信目前 it 網際網路領域的從業者應該都是耳熟能詳的。但是大家都知道,其實人工智慧早已出現為什麼等到本世紀初再一次大火起來呢?人工智慧 深度學習以及機器學習之間的關係到底又是什麼樣的呢?首先,為什麼最近幾年人工智慧概念再次火爆?原因主要有以下幾個方面 接下來回答第二個問題 ...

機器學習基礎知識

machine learning的主要兩個應用方面 人工智慧 資料科學。什麼是人工智慧 artificial intelligence ai是不確定性管理 uncertainty management 的體現 ai what to do when you don t know what to do ...

機器學習基礎知識

機器學習基礎知識 1 誤差 學習器實際 輸出與樣本的真實輸出之間的差異稱為 誤差 有經驗誤差 也成訓練誤差 和泛化誤差。我們實際需要的是泛化誤差較小的學習器。2 過擬合與欠擬合 過擬合 學習能力太過強大,把訓練樣本中的特殊特性當作一般特性導致泛化效能下降。欠擬合 學習能力低下,不能很好的 輸出。3 ...