宣告：由於敲公式比較慢，主要歸納一些技巧，用於加深對矩陣、向量求導的技巧；
矩陣/向量求導，本質上是多元函式求導；
推導過程中萬能的驗證方法：即對矩陣/向量的每個分量逐元素求導，再合成矩陣/向量；但往往比較麻煩，故用於驗證推導的結果是否正確；因為求導結果是否轉置存在爭論，本文以不轉置為準(mixed layout)，即求導結果與原矩陣/向量同型;1.導數定義（1）矩陣/向量值函式對實數的導數：求導結果與函式值同型；變數為向量時，僅將其看作多個實數，無所謂行/列向量之分，有些地方規定結果形如行/列向量，僅僅為了公式用矩陣相乘的方式表示出來，進而與其他部分進行矩陣運算；（即滿足維度相容原理）
（2）實值函式對矩陣/向量的導數：求導結果與自變數同型；
（3）向量(m*1)對向量(n*1)的導數（雅可比矩陣）：求導結果為m*n維矩陣；
矩陣對向量、向量對矩陣、矩陣對矩陣求導都可以通過上述方法繞過；
sympy(自動求解）
對的，就是自動推導公式！
具體公式可檢視維基百科：
matrix calculusen.wikipedia.org
向量轉置的怎麼求導 向量求導
1.矩陣y對標量x求導 相當於每個元素求導數後轉置一下，注意m n矩陣求導後變成n m了 y y ij dy dx dy ji dx 2.標量y對列向量x求導 注意與上面不同，這次括號內是求偏導，不轉置，對n 1向量求導後還是n 1向量 y f x1,x2,xn dy dx dy dx1,dy dx...
向量轉置的怎麼求導 順序理解向量和矩陣求導
最首先需要明確，f a 對a求導，是將a視作了自變數，將f a 視作因變數。自變數的描述形式一般為n行1列的列向量或矩陣，因變數的描述形式一般為1行m列的行向量或矩陣！向量和矩陣求導的關鍵在於，找到自變數和因變數，並確定其維度！向量部分 所有推理的基礎，0 4節。矩陣部分 一句話，結果是超向量，完事...
向量轉置的怎麼求導 補充 向量函式求導
在學習數值優化的過程中,遇到了這麼乙個函式 是乙個n維向量,分別是另乙個函式的函式值,梯度和黑塞矩陣.很容易知道這個函式的輸入是乙個n維向量,輸出的是乙個實數.那麼如果對這個函式進行求導,又會變成什麼樣?向量與常數向量相乘後的求導 設求導變數 是常數向量.那麼有 所以有 由里奇微積分,可得 由於黑塞...