태그: #llm
GPU·LLM·MLOps·쿠버네티스, 그리고 마음가짐에 관한 글 · 217 편
LLM 컨텍스트 윈도우 확장 기술 완벽 가이드: RoPE, ALiBi, YaRN부터 Ring Attention까지
LLM의 컨텍스트 윈도우를 512에서 2M 토큰까지 확장하는 기술을 분석합니다. RoPE의 수학적 원리부터 NTK-aware, YaRN, Ring Attention까지 실전 코드와 함께 다룹니다.
2026-03-03 · 11 분 읽기 #llm#context-window#rope#yarn#positional-encoding나만의 GPT 만들기 — nanoGPT로 처음부터 학습하는 언어 모델
Andrej Karpathy의 nanoGPT를 활용해 GPT 언어 모델을 처음부터 학습합니다. Transformer 아키텍처의 핵심 원리, 토크나이저, Self-Attention, 학습 루프까지 코드와 함께 완전 해부합니다.
2026-03-03 · 9 분 읽기 #ai#llm#gpt#nanogpt#transformerRay Serve로 구현하는 확장 가능한 LLM 서빙 파이프라인
Ray Serve를 활용한 ML/LLM 모델 서빙의 핵심 개념부터 멀티모델 파이프라인, 오토스케일링, 배치 추론, 프로덕션 배포까지 코드 예제와 함께 다룹니다.
2026-03-03 · 8 분 읽기 #ai-platform#ray-serve#model-serving#llm#mlopsSpeculative Decoding으로 LLM 추론 2~3배 빠르게: 원리부터 실전 구현까지
Speculative Decoding의 수학적 원리, Draft-Verify 파이프라인, 수용 확률 분석, vLLM/TensorRT-LLM에서의 실전 적용법, 그리고 Apple의 Mirror Speculative Decoding까지 심층 분석한다.
2026-03-02 · 9 분 읽기 #llm#speculative-decoding#inference#optimization#vllmLLM 파인튜닝 실전 — LoRA, QLoRA, PEFT로 나만의 모델 만들기
LLM 파인튜닝의 실전 가이드. LoRA의 수학적 원리부터 QLoRA로 소비자 GPU에서 대형 모델 학습, PEFT 라이브러리 활용법까지 코드 예제로 상세히 다룹니다.
2026-03-02 · 10 분 읽기 #llm#fine-tuning#lora#qlora#peftRAG 챗봇 구축 실전 — LangChain + ChromaDB + OpenAI로 나만의 문서 QA 봇 만들기
LangChain과 ChromaDB, OpenAI를 활용하여 PDF 문서 기반 RAG 챗봇을 처음부터 구축하는 실전 가이드. 문서 로딩부터 벡터 저장, 프롬프트 설계, Streamlit UI까지 완성한다
2026-03-02 · 13 분 읽기 #rag#langchain#chromadb#openai#chatbotLangGraph 에이전트 워크플로우 실전 가이드: 멀티에이전트 오케스트레이션부터 프로덕션 배포까지
LangGraph로 상태 기반 AI 에이전트 워크플로우를 구축한다. StateGraph, 조건부 라우팅, 멀티에이전트 오케스트레이션, Human-in-the-Loop, 그리고 LangGraph Platform 배포까지 실전 코드 포함.
2026-03-02 · 7 분 읽기 #langgraph#langchain#ai-agent#workflow#multi-agentOpenClaw 완전 분석: GitHub 역사상 가장 빠르게 성장한 오픈소스 AI Agent의 아키텍처, 보안, 그리고 미래 ♪ 들을 수 있어요
Clawdbot에서 OpenClaw로 진화한 오픈소스 자율형 AI Agent의 Gateway 아키텍처, Skills 생태계, 멀티채널 통합, 보안 이슈, 그리고 OpenAI 인수까지 기술적으로 심층 분석한다.
2026-03-01 · 41 분 읽기 #openclaw#ai-agent#llm#open-source#automationLLM Agent 시스템 구축: Tool Use, Planning, Memory 완전 분석
LangGraph와 Anthropic 공식 문서를 기반으로 LLM Agent의 핵심 개념인 Tool Use, Planning, Memory를 분석하고 실전 Agent를 구축한다.
2026-03-01 · 31 분 읽기 #llm#ai-agent#tool-use#langgraph#reactGoogle Antigravity 완전 분석: Agent-First IDE가 바꾸는 소프트웨어 개발의 미래 ♪ 들을 수 있어요
Google이 Gemini 3와 함께 발표한 Agent-First IDE "Antigravity"의 아키텍처, Agent Manager, Skills 시스템, 벤치마크 성능, 보안 이슈, 그리고 Cursor/Claude Code와의 비교를 심층 분석한다.
2026-03-01 · 40 분 읽기 #antigravity#google#agentic-ide#gemini-3#ai-coding프로덕션 LLM 애플리케이션 아키텍처 설계 가이드
프로덕션 LLM 애플리케이션의 핵심 아키텍처 레이어를 분석하고, Gateway, Guardrails, Caching, Observability 각 컴포넌트를 공식 문서 기반으로 정리한다.
2026-03-01 · 29 분 읽기 #llm#architecture#production#ai#guardrailsLLM 추론 최적화: vLLM과 TensorRT-LLM 심층 분석 ♪ 들을 수 있어요
vLLM과 TensorRT-LLM 공식 문서를 기반으로 PagedAttention, Continuous Batching, 양자화 등 LLM 추론 최적화 핵심 기술을 분석한다.
2026-03-01 · 35 분 읽기 #llm#inference#vllm#tensorrt-llm#optimizationLangChain 고급 패턴: LCEL과 LangGraph 완전 정복
LangChain 공식 문서를 기반으로 LCEL(LangChain Expression Language)의 Runnable 인터페이스와 LangGraph의 StateGraph를 체계적으로 분석한다.
2026-03-01 · 29 분 읽기 #langchain#lcel#langgraph#llm#aiLoRA: 대규모 언어 모델의 효율적 파인튜닝 논문 분석
LoRA(Low-Rank Adaptation) 논문의 핵심 원리를 수학적으로 분석하고, HuggingFace PEFT를 활용한 실전 적용법을 정리한다.
2026-03-01 · 28 분 읽기 #ai-papers#lora#fine-tuning#llm#peftClaude Code 완벽 가이드: Anthropic의 AI 코딩 에이전트로 개발 생산성을 혁신하는 방법 ♪ 들을 수 있어요
Anthropic의 공식 CLI 도구인 Claude Code의 설치부터 핵심 명령어, 슬래시 커맨드, MCP 서버 연동, 멀티 에이전트 아키텍처, IDE 통합, CLAUDE.md 활용법, 커스텀 훅까지 — AI 코딩 에이전트의 모든 기능을 실전 예제와 함께 완벽 정리한다.
2026-03-01 · 57 분 읽기 #claude-code#anthropic#ai-coding#cli#ai-agentOpenAI Codex 완벽 분석: AI 코드 생성의 시작부터 클라우드 코딩 에이전트의 진화까지 ♪ 들을 수 있어요
OpenAI Codex의 원본 모델(GPT 기반 코드 생성)부터 GitHub Copilot과의 관계, 새로운 Codex 클라우드 코딩 에이전트의 아키텍처와 기능, 코드 생성 AI의 진화까지 — Codex의 모든 것을 기술적으로 심층 분석한다.
2026-03-01 · 51 분 읽기 #codex#openai#code-generation#github-copilot#ai-codingRAG: Retrieval-Augmented Generation 논문 분석과 실전 아키텍처 ♪ 들을 수 있어요
RAG 논문의 핵심 개념을 분석하고, Chunking 전략, Vector DB 선택, Advanced RAG 패턴 등 프로덕션 레벨 RAG 시스템 설계를 정리한다.
2026-03-01 · 35 분 읽기 #ai-papers#rag#llm#vector-database#langchain