機器學習演算法ID3

機器學習筆記:ID3演算法建立決策樹(一)

ID3演算法的核心思想 以資訊熵的下降速度作為選取測試屬性的標準,所選的測試屬性是從根節點到當前節點的路徑上尚未被考慮的具有最高資訊增益的屬性。 維基百科上對ID3演算法有比較詳細的介紹:ID3維基 計算過程相關公式 xx是一個離散型的隨機變數,其概率分佈為 p(x)=P(X=x),x∈X p(x) […]