決策樹就是把乙個問題分成很多小問題不斷進行子決策最終得出結論的過程，每個測試的結果或是匯出最終結論或是匯出進一步的判定過程，且其考慮範圍是在上一次決策結果的限定範圍之內的。
決策樹一般包含乙個根節點，若干內部節點和葉節點，根節點對應總的資料集，每個內部節點對應乙個屬性測試，葉節點對應決策結果。其基本流程如下：
而本篇部落格要說的就是第8步。
一般來說，隨著決策樹的不斷劃分，我們希望其分支節點所包含的樣本越來越屬於同一類別，即節點的純度越來越高。因此有以下幾種劃分方法。
劃分屬性的選擇就是這樣，我們下期見！
決策樹理論
決策樹學習通常包括3個步驟 分類決策樹是一種描述分類的樹形結構，旨在基於經驗對目標分類做出判斷。圖1.1 決策樹模型 以是否區間相親物件為例對決策樹進行理解，可建立如下的決策樹 構造就是生成一顆完整的決策樹。在構造決策樹的過程中，需要選擇節點的屬性，因此，構造需要解決的問題如下 構造決策樹，選擇結點...
決策樹理論 Decision tree
決策樹面試被提及的題目 1 決策樹的原理 從根結點開始，對例項的某一特徵進行測試，根據測試的結果，將例項分配到其子結點 每乙個子結點對應著該特徵的乙個取值。如此遞迴地對例項進行測試並分配，直至達到葉結點。最後將例項分配到葉結點的類中。2 決策樹的過程 步驟 決策樹學習通常包括3個步驟 特徵選擇 決策...
深度學習理論 AdaBoost演算法
整合學習分為boosting和bagging兩種，其中boosting演算法是使用同質的弱分類器集成為強分類其，bagging為使用異質的弱分類器集成為強分類器，而boosting的經典演算法就是adaboost演算法。adaboost演算法有使用迴圈迭代的方法更新兩個權重 乙個是每次迭代所訓練的濾...