PRML讀書會前言

2021-06-28 15:37:22 字數 1839 閱讀 4169

**:

讀書會成立屬於偶然,一次群裡無聊到極點,有人說pattern recognition and machine learning這本書不錯,加之有好友之前推薦過,便發了封群郵件組織這個讀書會,採用輪流講課的方式,如果任務能分配下去就把讀書會當作群員的福利開始進行,分配不下去就算了。後來我的幾位好友:網神兄、戴瑋博士、張巍博士、planktonli老師、常象宇博士紛紛出來支援這個讀書會。待任務分配完,設定好主持人和機動隊員,我認為就不需要再參與了,但進行不久,也充當機動隊員講了第

二、六、九、十一章,並承擔了所有的整理回顧工作。隨著讀書會的進行漸漸發現prml這本書可以用驚豔二字來形容,每講一章之前我們都花費大量時間精力做準備,然後用聊天的方式白話講課,盡量做到通俗易懂,一章內容太多便分幾次講,講的不滿意便重新講,一共講課23次,加上整理回顧前後進行了兩遍,歷時一年半這份講稿合集才與大家見面。以下是各章的簡介:

第一章introduction

由西安交通大學常象宇博士主講,深入淺出的介紹了機器學習的基本概念、學習理論、模型選擇、維災等。

第二章probability distributions

的貝塔-二項式、狄利克雷-多項式共軛、高斯分布、指數族等很基礎也很重要。出於各種原因我前後講了三次,直到比較滿意為止。

理解機器學習莫過於從最基礎的線性模型開始,

第三章 linear models for regression

由西北大學planktonli老師主講,介紹了線性基函式模型、正則化方法、貝葉斯線性回歸及其與核函式的聯絡等內容,為後面幾章打下了良好基礎。

第四章linear models for classification

仍由西北大學planktonli老師主講,介紹了貝葉斯的marginalization概念、fisher線性判別、感知機、分類器概率生成和判別模型的區別與聯絡、邏輯回歸的最大似然引數估計、貝葉斯邏輯回歸的laplace近似推斷等內容。

第五章neural networks

第六章kernel methods

,介紹了核函式的定義、構建方法,通過線性回歸的dual representations推導說明由基於特徵到基於樣本學習的轉換;最後是動感十足的高斯過程gaussian processes,包括gp的協方差矩陣形式、超參、**等內容。

第七章sparse kernel machines

第八章graphical models

第九章mixture models and em

,主要內容有:kmeans演算法;混合高斯模型以及em(expectation maximization)演算法在gmm中的應用;一般em演算法性質的推導和證明。

第十章的主要內容是變分推斷(variational inference)

第十一章的主要內容是mcmc(markov chain monte carlo)

,包括:馬爾科夫鏈平穩分布的定義及其充分條件:細緻平穩條件的證明;metropolis-hastings及其接受率滿足細緻平穩條件的推導,接受率恒為1的gibbs sampling;最後是slice sampling、hamiltonian mcmc。

第十二章連續隱變數

第十三章sequential data

最後一章combining models

@copper_pku

@紅燒魚_機器學習

@priceton

@unluckyallen

讀書會qq群:一號群:177217565(已滿) ;

二號群:424269692 **時請在申請裡用簡短的話描述一模型或演算法的關鍵思想。

@nietzsche_複雜網路機器學習

讀書會2023年總結

今晚,志同道合的朋友們又做到了一起,對2012年的讀書情況做了一次彙總工作,個人的最大感觸是 1 乙個組織裡面,每個人的想法和思想層次是層次不齊的,要允許這種層次的存在,並且要利用好這種層次不齊,而形成健康的團隊成長梯隊,這樣組織才能成長 2 規則的變動時漸變的,而不是激進的,完全創新的 這一點從 ...

簡單讀書會 第2018 10 18期

1 正確的努力,嘗試拒絕不必要的東西 life is short do what u want to do,just do it is focused 注意力在 生產力就在 組織是共同規則。一般的公司職員 學生 生產線的工人 軍人 犯人都是共同規則管理。二級組織是共同利益。平時管士兵是共同規則 打仗...

簡單讀書會 第2018 10 18期

1 正確的努力,嘗試拒絕不必要的東西 life is short do what u want to do,just do it is focused 注意力在 生產力就在 組織是共同規則。一般的公司職員 學生 生產線的工人 軍人 犯人都是共同規則管理。二級組織是共同利益。平時管士兵是共同規則 打仗...