Python資料科學手冊（5）機器學習

python資料科學手冊最後一章講的是機器學習，這是乙個很大的課題，每一種演算法都可以鑽研，遠不是一篇文章能講清楚的，這裡主要總結一下書中關於特徵工程的課題。

俗話說，巧婦難為無公尺之炊。在機器學習中，資料和特徵便是「公尺」，模型和演算法則是「巧婦」。對於乙個機器學習問題，資料和特徵往往決定了結果的上限。特徵工程是對原始資料進行一系列工程處理，將其提煉為特徵，作為輸入和演算法和模型使用。

分類特徵

一種常見的非數值資料型別是分類資料，例如性別（男女），血型等。有多種方式：序號編碼（ordinal encoding）,獨熱編碼(one-hot encoding),二進位制編碼(binary encoding).

1.1 序號編碼

序號編碼通常用於處理類別間具有大小關係的資料。例如成績，可以分為低中高三擋，並且存在「高》中》低」的排序關係。序號編碼會按照大小關係對類別特徵賦予乙個數值id，例如高中低依次為321，轉換後依然保留了大小關係。

1.2 獨熱編碼

通常用來處理類別間不具有大小關係的特徵，例如血型，一共四個取值（a，b,ab，o），獨熱編碼會把血型變成乙個四維稀疏向量，a型血表示為(1,0,0,0),b型表示為（0,1，0，0），ab型血表示為（0,0，1,0），o血型表示為(0,0,0,1).

1.3 二進位制編碼

二進位制編碼主要分為兩步，先用序號編碼給每個類別賦予乙個類別id，然後將類別id對應的二進位制編碼作為結果。二進位制編碼本質上是利用了二進位制進行雜湊對映，最終得到0/1特徵向量，且維數少於獨熱編碼，節省了儲存空間。

Python資料科學手冊（5） 機器學習