タグ: #ResNet

← すべての記事

• ResNet: 残差接続が深いネットワークの学習を可能にした理由とバッチ正規化

  層をさらに積み重ねたにもかかわらず学習エラーまで悪化する「深さのパラドックス」を、ResNetがどのように解決したのかを見ていきます。ブロックが出力全体ではなく「入力に加える差分」だけを学ぶようにすると、逆伝播で勾配が足し算のショートカットに沿ってそのまま下りてきます。バッチ正規化が何をするのか（そして元の説明と後の研究の説明がどう異なるのか）についても整理します。実際に動かした小規模な実験（深さ4・16・64、正規化の有無）では、単純

  2026-10-17 · 13 分で読めます #비전 모델#ResNet#잔차 연결#배치 정규화#기울기 소실