總結：資訊的作用在於消除不確定性
補充相對熵是用來衡量兩個取值為正數的函式的相似性，關於相對熵的3點結論：
1. 對於兩個完全相同的函式，它們的相對熵等於0
2. 相對熵越大，兩個函式差異越大；反之相對熵越小，兩個函式差異越小
3. 對於概率分布或者概率密度函式，如果取值均大於0，相對熵可以度量兩個隨機分布的差異性
關於教育的幾個觀點1. 小學生和中學生其實沒有必要花那麼多時間讀書，他們的社會經驗、生活能力以及在那時樹立起的志向將幫助他們一生
2. 中學階段花很多時間比同伴多讀的課程，在大學以後用非常短的時間就可以讀完，因為在大學階段，人的理解能力要強得多
3. 學習和教育是乙個人一輩子的過程，很多中學成績好的亞裔學生進入名校後表現不如那些因為興趣讀書的美國同伴
4. 書本的內容可以早學也可以晚學，但是錯過了成長階段卻是無法彌補的
《數學之美》 第六章 個人筆記
數學之美 最近在讀 數學之美 這本書，做一下個人筆記。看的是pdf，看完後會買一本的哦！版權意識還是有的。1 資訊熵 從乙個角度可以認為資訊量就等於不確定性的多少。資訊熵 entropy 一般用符號h表示，單位是位元。熵的定義 變數的不確定性越大，熵也就越大。文中有個關於冗餘度 的 重複的內容很多，...
《數學之美》第6章 資訊的度量和作用
一條資訊的資訊量與其不確定性有著直接的關係。資訊量就等於不確定性的多少。如何量化資訊量的度量？資訊熵 entropy 用符號h表示，單位是位元。變數的不確定性越大，熵也就越大。如果一本書重複的內容很多，它的資訊量就小，冗餘度就大。不同語言的冗餘度差別很大，而漢語在所有語言中冗餘度是相對小的。資訊和消...
《資訊檢索導論》第六章總結
在前面我們討論的都是布林查詢，因此得出的結果要麼匹配，要麼不匹配，當匹配的結果很多時，就會發現我們需要對文件進行排序 文件除了文字外還有元資料，比如建立時間 文件標題等，因此我們也可以對他進行限制 比如限制查詢文件結果必須是2010年發表的 引數化索引 parametric index 某個字段取值...