标签: #Swin

← 全部文章

• Vision Transformer: 将图像读作 16×16 图块的句子，以及为什么需要大量数据

  我们来看看 ViT（2021）的原理，它用原本用于阅读句子的 Transformer 来阅读图像。它将图像切割成 16×16 的图块并像单词一样排列，通过自注意力机制观察所有图块对之间的关系。「切割图块并进行线性变换」与步幅为 16 的卷积完全相同，如果没有位置嵌入，模型将完全不知道图块的顺序，当分辨率增加 2 倍时，注意力开销会变成 16 倍，我们通过 numpy 验证了这些。由于放弃了卷积通过结构赋予的「邻近项互相关联」的假设，它仅

  2026-10-17 · 13 分钟阅读 #비전 모델#ViT#트랜스포머#셀프 어텐션#위치 임베딩