Bir Karar Ağacı Oluşturma

Question

Bir karar ağacı oluştururken, her düğümde en iyi özelliği ve sonra bu özellik için en iyi ayırma konumunu seçeriz. Ancak, en iyi özellik için tüm değerler geçerli düğüm/set içindeki örnekler için 0 olduğunda, ne yapabilirim? Tüm örnekler bir tarafa gruplandırılmaya devam eder (< = 0 dalı) ve sonsuz bir döngü oluşur. Örneğin : o zaman

#left: 1500, #right: 0 

, vb

#left: 1500, #right: 0 

ve ...

Sadece başvuru için, aşağıdaki sözde kod takip ediyorum.

GrowTree(S) 
if (y_i = C for all i in S and some class C) then { 
return new leaf(C)        
} else { 
choose best splitting feature j and splitting point beta (*) 
I choose the one that gives me the max entropy drop 
S_l = {i : X_ij < beta}       
S_r = {i : X_ij >= beta} 
return new node(j, beta, GrowTree(S_l), GrowTree(S_r)) 

}

Answer 1

Bu sadece mümkün değildir. En büyük model kesinlik oranına yol açan eşiği seçmeniz gerekiyor. Her bir örneği aynı dalda tutan eşiğin kullanılması, modellerde kesinlikte 0 artış sağlar, bu nedenle en iyi bölünmüş değildir. Bu özellik, eğer sadece, eğer bu özellikte safsızlık/entropi zaten 0 ise, ancak karar ağacında yaprakların yaratılması için durma kriteridir.