機器學習理論 BP神經網路

2021-09-23 10:23:10 字數 727 閱讀 2258

機器學習–擬人

有監督的機器學習

多元線性回歸

回歸/**

邏輯回歸

分類**

非線性的演算法,非線性的演算法可以來解決更加複雜的問題

神經網路演算法也是後面深度學習的時候的基礎

ann artificial neural network

mlp multiple layer percepton

cnn rnn

q:神經網路需要考慮的基本要素有哪些?

a:1,啟用函式的選擇,對應神經元裡面的邏輯,兩部分,相乘相加和非線性的變化,相乘相加是固定不變的

非線性的變化可以有很多選擇,根據效果來

2,網路拓撲結構,處理更加複雜的問題,就需要更多的網路層,就需要每層上面設定更多的人工神經元

3,在去求解神經網路模型的時候,w0…wn,選擇什麼樣優化演算法,sgd一樣適用!

q:啟用函式有哪些?

a:1,sigmoid函式,0到1之間 2,tangent函式,-1到1之間 3,relu函式,max(0,x)

q:神經網路演算法的隱藏層意義何在?

a:1,如果有隱藏層的話,就多了推理有演繹的能力

2,每多乙個隱藏層,推理和演繹的過程更多,考慮的更深入

3,隱藏層的隱藏節點如果比之前的層上面的節點數要多,相當於進行了公升維,考慮的因素更多,考慮的更全面

4,隱藏層的隱藏節點如果比之前的層上面的節點數要少,相當於進行了降維,去前面進行了歸納總結

機器學習理論與實踐 05 神經網路(2)含BP演算法

在多分類問題中,如果有k種分類,最後輸出的是乙個k維向量 同時根據邏輯回歸的損失函式給出多分類問題的損失函式如 中所示 正則化項是對所有層涉及的 值的平方和 不包含下角標為0的項 在上面的多分類問題中,根據前面學習的經驗,無論是什麼優化演算法,如梯度下降法,都需要計算出損失函式對於每乙個 值的偏導數...

機器學習理論與實踐 05 神經網路(1)

神經網路十分適用於解決複雜的非線性分類問題,因為前面所學的邏輯回歸在解決非線性問題上愈發複雜。神經網路的歷史此處略過不提,他主要是要模擬大腦的功能,並從簡單的乙個神經元開始分析。對於乙個簡單的模型來說,第乙個標 部分 神經元接收來自n個其他神經元傳遞過來的輸入訊號,這些輸入訊號通過帶權重的連線進行傳...

機器學習 BP神經網路模型

bp back propagation 網路是1986年由rumelhart和mccelland為首的科學家小組提出,是一種按誤差逆傳播演算法訓練的多層前饋網路,是目前應用最廣泛的神經網路模型之一。bp網路能學習和存貯大量的輸入 輸出模式對映關係,而無需事前揭示描述這種對映關係的數學方程。它的學習規...