「ドロップアウト」という行為は、物忘れに例えるなら、物忘れをすることで、物忘れしたもの以外に注意が向き、それらに対して認識が深まるみたいな行為と言えるだろう。
私たちは、物忘れの負の側面についてしか理解していないが、物忘れによって他の何かへの認識が深まるのだとしたら、物忘れもあながち悪いものではないのだろう。
Permalink | 記事への反応(2) | 14:21
ツイートシェア
L1正則化がなんで機能するのか全く理解してなそう
認識を深める?むしろ浅くするのでは? 特定の重みに依存せずに予測を実行できるようになるのが要点