a. 數學基礎
線性代數
基本概念
標量向量
矩陣範數
l1：向量絕對值之和
l2：向量的長度
lp(p趨於無窮)：向量中最大元素的取值
內積兩個向量之間的相對位置：余弦相似度
線性空間
內積空間
內積空間
正交基/標準正交基
特徵值和特徵向量：矩陣特徵值和特徵向量的動態意義在於表示了變化的速度和方向。
概率論基本概念
條件概率
全概率公式
貝葉斯公式：可信度
學派頻率學派
貝葉斯學派
概率估計的方法
最大似然估計法
最大後驗概率法
資料型別
離散型資料：概率質量函式
連續性資料：概率密度函式
概率質量函式/概率密度函式
兩點分布
二項式分布
泊松分布
均勻分布
指數分布
正態分佈
其他數學期望值
方差協方差
數理統計
統計量樣本均值
樣本方差
基本問題
引數估計：引數估計是通過隨機抽取的樣本來估計總體分布的方法
點估計矩估計法
最大似然估計法
評估標準
無偏性：估計量的數學期望等於未知引數的真實值；
有效性：無偏估計量的方差盡可能小；
一致性：當樣本容量趨近於無窮時，估計量依概率收斂於未知引數的真實值。
區間估計
假設檢驗：引數估計的物件是總體的某個引數，假設檢驗的物件則是關於總體的某個論斷，即關於總體的假設。
泛化誤差的構成
偏差：偏差表示演算法**值和真實結果之間的偏離程度，刻畫的是模型的欠擬合特性；
方差：方差表示資料的擾動對**效能的影響，刻畫的是模型的過擬合特性；
噪音：雜訊表示在當前學習任務上能夠達到的最小泛化誤差，刻畫的是任務本身的難度。
最優化方法
基本問題
約束優化：拉格朗日乘子法 - 線性規劃
無約束優化
梯度下降法
牛頓法置信域方法：啟發式演算法
資訊理論基本概念
資訊熵條件熵
資訊增益
資訊增益比
kl 散度：kl 散度是描述兩個概率分布 p 和 q 之間的差異的一種方法
非負性非對稱性
最大熵原理
邏輯推理
命題邏輯
窮搜：找出所有的組合，然後判斷是不是符合所有的邏輯規則
歸結演算法
啟發式搜尋演算法：dpll
隨機搜尋演算法
一階邏輯句法
基本句法
物件：常量符號
關係：謂詞符號
函式：函詞
量詞全稱量詞
存在量詞
巢狀量詞
等詞知識庫構建過程
確定任務
蒐集相關知識
確定詞彙表，包括謂詞、函式和常量
對領域通用知識編碼
對特定問題例項描述編碼
把查詢提交給推理過程並獲取答案
知識庫除錯
一階邏輯推理
一般化假言推理規則
合一前向連線
反向鏈結
歸結
人工智慧數學基礎 矩陣
人工智慧數學基礎系列文章 今天覆習矩陣，作為程式設計師，矩陣在程式中的應用想必或多或少都接觸過，特別是在影象變化演算法上的應用。1.定義 以上是乙個三元一次方程組，根據矩陣的 定義，有矩陣a如下圖 2.矩陣的運算 2.1.矩陣的加法 從上圖中我們可以看出，矩陣a和矩陣b相加，它們都是2 x 2的矩陣...
人工智慧之數學基礎
線性代數不僅僅是人工智慧的基礎，更是現代數學和以現代數學作為主要分析方法的眾多學科的基礎。從量子力學到影象處理都離不開向量和矩陣的使用。每個向量都由若干標量構成，如果將向量的所有標量都替換成相同規格的向量，得到的就是矩陣 matrix 相對於向量，矩陣同樣代表了維度的增加，矩陣中的每個元素需要使用兩...
人工智慧基礎 什麼是人工智慧
人工智慧是一門研究如何構造智慧型機器 智慧型計算機 或智慧型系統，使它們能夠模擬 延伸和拓展人類智慧型的學科。個人理解就是 研究人的智慧型，並且把人的智慧型放到機器上面，代替人思考。人工智慧發展簡史 孕育階段 1.亞里斯多德三段論 2.英國哲學家培根 知識就是力量。3.萊布尼茨 建立一種通用的符號語...