在求解lda的過程中，避免不了trace ratio。最近幾天看了一些trace ratio的**。需要總結一下。
一、trace ratio vs ratio trace for dimension reduction
目標函式
演算法：remove null(st)-pca去掉零特徵值。主要是st的零空間不包含資訊。將非零向量命名為v-列正交。（1）中w可寫成 w=vu
itr-iterative trace ratio
考慮到trace ratio轉化為ratio trace 之後，即使ratio trace有閉式解但仍不可能精確滿足trace ratio。因此，將其轉化為trace difference問題。
1). lamba_n由第n-1個v代入公式求解
2). 利用guo03年的理論 將trace ratio 問題轉化 trace difference 問題
3). 選取降維後的d個特徵向量作為v
這裡沒有搞清楚，正交變化不變性的用處。
4). 判斷條件
確定問題比解決問題難
中學時曾聽物理老師講過乙個故事 某大公司大型發動機運轉不正常，電學天才梅因泰斯被請去 會診 梅因泰斯圍著機器仔細轉了轉，聽了聽運轉的聲音，然後果斷地在一處用粉筆畫了一道說 把這裡的線圈減兩圈。機器果真修好了。梅因泰斯也因此掙到1000美元。事後有人不服，說 用粉筆畫一道就值1000美元？梅因泰斯聽後...
判斷NP完全問題的一些蛛絲馬跡
一般來說我們沒有簡單的辦法判斷問題是不是np完全問題，但還是有一些蛛絲馬跡可尋 來自 演算法 對於np完全問題，最佳的做法是使用近似演算法，貪婪演算法易於實現，執行速度快，是不錯的近似演算法。假設有乙個旅行商人要拜訪n個城市，他必須選擇所要走的路徑，路徑的限制是每個城市只能拜訪一次，而且最後要回到原...
系統思考 對策可能比問題更糟
之前有看到乙個有趣的故事，其實也是系統思考。1967年，羅馬尼亞認為需要增加本國人口，於是出台了一項粗暴的政策，禁止45歲以下婦女流產。很快，出生率就增加了兩倍。但過了一段時期以後，出生率又回落到原來的水平。此外，由於大量危險的非法流產，育齡婦女的死亡率較之前增加了兩倍。一些貧困家庭因為無法撫養多個...