關於資料正則化(Regularization)L1、L2 方法,下列敘述何者正確?
答案 (C)
核心概念
正則化是在損失函數後面加一個懲罰項,逼模型不要把權重養得太大,用這個方式壓住過度擬合。
拿寫報告比喻。老師規定總頁數有上限,你就得取捨。L1 的做法是把不重要的段落整段刪掉,目錄上直接消失;L2 的做法是每一段都寫短一點,段落全都還在,只是都縮水了。
・L1 正則化(又叫 Lasso):加的是「權重絕對值的總和」,會把不重要的特徵權重直接壓成 0,產生稀疏解,等於順便做了特徵選擇
・L2 正則化(又叫 Ridge):加的是「權重平方的總和」,會把權重壓小,但通常不會剛好壓到 0
答題技巧
快速判斷技巧:記住兩組對應就好。 ・L1 是 Lasso,用絕對值,會歸零,產生稀疏解,可以順便做特徵選擇 ・L2 是 Ridge,用平方,只把權重變小,不會歸零 這類題幾乎都在這兩組字之間互換位置騙人,背熟就能秒殺。
易錯陷阱:(D) 是最經典的「主詞對調」,把 L1 的特性掛到 L2 頭上。(B) 則是名稱互換。 作答時先在題目旁邊寫下 L1 和 L2 各自的關鍵字,再逐一比對,不要憑印象直覺選。