タグ: #ViT

← すべての記事

• 自己教師あり学習 2: MAE — 画像の4分の3を隠して当てさせると、なぜうまく学ぶのか

  テキストでの穴埋め（BERT）が言語モデルを成長させたように、画像でも断片を隠して当てさせると優れた特徴を学びます。MAEがBERTの15%ではなく75%を隠す理由（画像はテキストよりもはるかに重複が多い）、見える断片だけをエンコーダーに入力して計算を3倍以上削減する非対称構造、隠した断片でのみ測定するピクセル損失を解説します。16個の断片からなるおもちゃの画像で隠す割合を25〜90%に変えて直接学習してみたところ、おもちゃでは75%が

  2026-10-17 · 11 分で読めます #비전 모델#자기지도 학습#MAE#BEiT#마스킹

• Vision Transformer: 画像を16×16のパッチの文章として読む、そしてデータが多く必要な理由

  文章を読んでいたTransformerで画像を読み込むViT（2021年）の原理を見ていきます。画像を16×16のパッチに切り分けて単語のように並べ、自己注意（Self-Attention）であらゆるパッチのペアの関係を見ます。「パッチに切り分けて線形変換する」ことがストライド16の畳み込みと全く同じであること、位置埋め込み（Position Embedding）がなければモデルがパッチの順序を全く分からないこと、解像度を2倍に増やすと

  2026-10-17 · 13 分で読めます #비전 모델#ViT#트랜스포머#셀프 어텐션#위치 임베딩