태그: #InfoNCE
GPU·LLM·MLOps·쿠버네티스, 그리고 마음가짐에 관한 글 · 1 편
대조 학습과 CLIP: 그림과 글을 짝지어 배우면 처음 보는 것도 맞힌다
사람이 붙인 분류 라벨 없이, 인터넷의 그림-글 짝 4억 개만으로 학습한 CLIP 이 어떻게 처음 보는 분류 문제를 푸는지 설명합니다. 배치 안의 N×N 유사도 행렬에 거는 InfoNCE 손실, 온도 τ 의 역할, 프롬프트로 분류기를 만드는 법을 그림과 수식으로 풀고, numpy 로 손실을 직접 계산한 뒤 개념 20개짜리 장난감 세계에서 「본 적 없는 개념」 을 맞혀 봅니다. SigLIP 의
2026-10-17 · 14 분 읽기 #비전 모델#CLIP#대조 학습#InfoNCE#SigLIP