タグ: #学習率スケジューリング
GPU・LLM・MLOps・Kubernetes、そしてマインドセット · 1 件
機械学習のための数学的最適化: Adamから凸最適化、ZeRO optimizerまで
SGD、Adam、AdamW、Lion optimizer、cosine annealing スケジューリング、Focal Loss、InfoNCEからZeRO optimizerまでMLトレーニング最適化の数学完全ガイドです。
2026-03-17 · 18 分で読めます #最適化#adamw#学習率スケジューリング#損失関数#凸最適化