正則化パスを見ながら、係数が 0 へ縮んでいくようすを追いかけよう
下のグラフは正則化パスです。横軸は正則化の強さ \(\alpha\)（対数スケール）、縦軸は各特徴量の係数の値。左端（\(\alpha\) が小さい）は普通の線形回帰とほぼ同じで、右へ進むほど L2正則化 がすべての係数をなめらかに 0 へ縮小していきます。Lasso と違って完全な 0 にはなりにくいのが特徴です。係数を抑えることで過学習を防ぎ、テスト RMSE が途中で最小になることがあります。スライダーで \(\alpha\) を動かして縦線を移動させてみましょう。
ヒント：\(\alpha\) を上げると訓練RMSEはやや悪化しますが、テストRMSEが改善する（過学習が減る）ことがあります。パスは事前計算済みなので、スライダーはサクサク動きます。