リッジ/Ridge回帰、Lasso回帰、Elastic Net (R - glmnet)

リッジ/Ridge回帰、Lasso回帰、Elastic Net に関して。 まず、モデルの複雑性とオーバーフィッティングに関して復習メモ。 複雑なモデル: バイアス(Bias)が小さく、バリアンス(Variance)が大きいシンプルなモデル: バイアスが大きく、バリアンスが小さい バイアスと言うのは、モデルによる予測値の平均が真の値からどれ…