태그: #Qwen2.5

← 전체 글

• RL 은 골라내는가: 0.5B 모델로 재 본 GRPO 와 pass@k

  RL 후학습은 새 능력을 만들까요, 베이스가 가끔 내던 답을 골라낼까요? 0.5B 지시 모델에 세 자리 곱셈 산수로 GRPO 를 직접 돌려 pass@k 를 쟀습니다. 많은 문제로 75걸음 학습하자 계산 정확도(pass@1)는 0.25 에서 0.66 으로 올랐지만 32번 뽑아 하나라도 맞힐 확률은 0.84 대 0.81 로 같았습니다. 150걸음까지 늘리면 그 상한이 0.68 로 내려가 k=16

  2026-10-31 · 24 분 읽기 #강화학습#GRPO#RLVR#pass@k#LoRA