修剪決策樹對偏差和方差的影響


修剪決策樹對偏差和方差的影響

文章插圖
1、偏差:偏差是模型對目標變量的預測與真實值之間的差異 。修剪決策樹可以增加模型的偏差 。當決策樹進行修剪時 , 樹的規模變?。?剪掉一些分支節點和葉節點 , 可能會導致模型喪失一部分復雜性和靈活性,從而增加了模型對數據的整體擬合程度不足的風險 。
【修剪決策樹對偏差和方差的影響】2、方差:方差是模型在不同訓練集上的預測結果的變化程度 。修剪決策樹可以減少模型的方差 。通過減少決策樹的深度和規模,修剪可以降低模型在訓練數據中的過擬合程度 , 減小對訓練數據的過度擬合,從而提高了模型的泛化能力,減少了模型在新數據上的預測變異 。