正則化項L1和L2的區別 知經驗 學習教育 1.86W 大中小設置文字大小 l1和l2正則化的區別是:1、L1是模型各個參數的絕對值之和。L2是模型各個參數的平方和的開方值。2、L1會趨向於產生少量的特徵,而其他的特徵都是0,因為最優的參數值很大概率出現在座標軸上,這樣就會導致某一維的權重為0 ,產生稀疏權重矩陣。L2會選擇更多的特徵,這些特徵都會接近於0。3、最優的參數值很小概率出現在座標軸上,因此每一維的參數都不會是0。當最小化||w||時,就會使每一項趨近於0。 TAG標籤:正則 l2 l1 化項 #