태그: #caching

← 전체 글

• 배포가 곧 부하 테스트다 — 캐시를 채우는 비용을 설계하지 않으면 생기는 일

  Canva가 게이트웨이 인메모리 세션 무효화 캐시를 MySQL에서 S3로 옮긴 과정을 뜯어봅니다. 문제는 정상 상태의 조회 비용이 아니라 배포 때마다 수백 개 파드가 동시에 캐시를 채우면서 데이터베이스를 때리는 시작 비용이었고, 해결책은 캐시 계층을 하나 더 얹는 것이 아니라 데이터의 표현을 바꾸는 것이었습니다. 12시간 슬라이딩 윈도를 30분 조각으로 나누고 무효화 하나를 16바이트로 눌러

  2026-08-09 · 16 분 읽기 #architecture#caching#s3#scalability#deployment

• LLM 캐싱의 원리 — 프롬프트 캐싱과 Prefix Cache는 왜 돈을 아껴주는가

  프롬프트 앞부분이 같으면 왜 비용이 10분의 1이 될까요? 답은 트랜스포머 내부의 KV 캐시에 있습니다. 어텐션이 인과적(causal)이라 앞쪽 토큰들의 Key/Value 벡터는 뒤에 무엇이 오든 변하지 않고, 그래서 저장해 뒀다가 재사용할 수 있습니다. prefill과 decode의 구분, KV 캐시의 메모리 수치, vLLM·SGLang의 prefix cache 구현, 그리고 Anthrop

  2026-07-08 · 14 분 읽기 #ai#llm#caching#inference#performance

• 캐시 무효화 완전정복

  "컴퓨터 과학에서 어려운 두 가지: 캐시 무효화와 이름 짓기." 캐시가 왜 그렇게 어려운지, TTL·write-through·write-behind·cache-aside 같은 전략, 캐시 스탬피드(도그파일)와 그 완화(잠금·지터·stale-while-revalidate), 이벤트 기반과 버전 키를 이용한 무효화, 그리고 CPU에서 브라우저까지 이어지는 캐시 계층을 정리합니다.

  2026-06-19 · 29 분 읽기 #performance#caching#systems

• 인메모리 캐싱 & KV 스토어 2026 — Redis 8 / Valkey / KeyDB / Dragonfly / Memcached / Garnet (Microsoft) / Speedb 심층 비교 ♪ 들을 수 있어요

  2024년 3월 Redis 의 RSALv2/SSPL 라이선스 변경이 일으킨 인메모리 캐시 진영의 대분열을 2026년 5월 기준으로 정리합니다. Redis 8 의 최신 변화, Linux Foundation 이 받아들인 Valkey, Snap 이 사들인 KeyDB, Roman Gershman 의 멀티 스레드 Dragonfly, 여전히 살아있는 Memcached, Microsoft 가 깜짝 공개한

  2026-05-16 · 40 분 읽기 #caching#key-value-store#redis#valkey#keydb

• CDN 완벽 가이드 — Cache, Edge Compute, Origin Shield, HTTP 캐싱 헤더 모든 것 (2025) ♪ 들을 수 있어요

  CDN의 모든 것 — 1998년 Akamai에서 시작된 edge caching의 역사, Anycast + DNS + GSLB의 라우팅 삼위일체, PoP과 edge 서버의 물리적 구조, Cache Key 설계와 Vary 헤더의 함정, HTTP 캐싱 헤더(Cache-Control, ETag, If-None-Match, stale-while-revalidate), Origin Shield와 Tie

  2026-04-15 · 36 분 읽기 #cdn#caching#edge-compute#cloudflare#fastly

• 성능·Core Web Vitals 2025 완전 정복: LCP·CLS·INP, Real User Monitoring vs Synthetic, Critical Rendering Path, JS 번들·Image·Font 최적화, Caching·Edge·CDN·HTTP/3, Vercel Speed Insights·CrUX·PageSpeed, 한국 네트워크 특성 — Season 6 Ep 6

  성능은 기능이 아니라 모든 기능의 조건이다. 2025년 Core Web Vitals 전 영역. LCP·CLS·INP(FID 후계) 핵심 지표와 75p 기준, Real User Monitoring vs Synthetic Test, Critical Rendering Path 최적화, JS 번들 다이어트(Rollup·esbuild·swc·Turbopack), 이미지 최적화(AVIF·Next/Ima

  2026-04-15 · 15 분 읽기 #performance#core-web-vitals#lcp#cls#inp

• 웹 성능 최적화 완전 가이드 2025: Core Web Vitals, LCP/INP/CLS, 로딩 전략

  웹 성능 최적화의 모든 것! Core Web Vitals(LCP/INP/CLS), 이미지 최적화(WebP/AVIF/lazy), 번들 최적화(Tree Shaking/Code Splitting/Dynamic Import), 캐싱 전략(Service Worker/CDN/HTTP Cache), 렌더링 패턴(SSR/SSG/ISR/Streaming), Lighthouse, 성능 모니터링.

  2026-04-14 · 29 분 읽기 #web-performance#core-web-vitals#lcp#inp#cls

• 백엔드 성능 엔지니어링 완전 가이드 2025: 프로파일링, 부하 테스트, 병목 분석, 최적화 ♪ 들을 수 있어요

  백엔드 성능의 모든 것! 프로파일링(CPU/메모리/I-O), 부하 테스트(k6/Artillery/Locust), 병목 분석(DB/네트워크/CPU/메모리), N+1 해결, 커넥션 풀 튜닝, 캐싱 전략(Redis/CDN/Application), 비동기 처리, 배치 최적화.

  2026-04-14 · 36 분 읽기 #backend-performance#profiling#load-testing#optimization#k6

• 시스템 설계 기초 완전 가이드 — 확장성, 가용성, 캐싱, 메시지 큐

  대규모 시스템을 설계하기 위한 핵심 개념. 수평/수직 확장, 로드밸런싱, 캐싱, 메시지 큐, 데이터베이스 설계, CAP 정리까지.

  2026-04-12 · 32 분 읽기 #architecture#system-design#scalability#caching#message-queue

• Cloudflare AI Gateway 실전 가이드: AI 트래픽을 관찰하고 제어하는 가장 빠른 방법

  Cloudflare AI Gateway를 왜 쓰는지, 어떤 제어가 가능한지, Dynamic Routing과 자동 재시도를 어떻게 함께 써야 하는지 2026년 4월 기준으로 실무적으로 정리한다.

  2026-04-12 · 11 분 읽기 #ai-platform#cloudflare#ai-gateway#observability#caching

• 시스템 디자인 면접 완전 가이드 2025: 대규모 시스템 설계, 확장성, 가용성 패턴

  시스템 디자인 면접의 모든 것! 4단계 프레임워크, 확장성(수평/수직), 로드 밸런싱, 캐싱(Redis/CDN), DB 샤딩, CAP 정리, 메시지 큐, 실전 설계(URL Shortener/Twitter/Netflix/채팅), 면접 팁.

  2026-03-25 · 34 분 읽기 #system-design#scalability#availability#load-balancing#caching

• Nginx 완전 가이드 2025: 리버스 프록시, 로드 밸런싱, SSL, 캐싱부터 보안까지

  Nginx의 모든 것! 이벤트 드리븐 아키텍처, 리버스 프록시 설정, 로드 밸런싱(Round Robin/Least Conn/IP Hash), SSL/TLS 설정, 캐싱, Rate Limiting, WebSocket, Docker/K8s 연동까지.

  2026-03-24 · 25 분 읽기 #nginx#reverse-proxy#load-balancing#ssl#caching

• Redis 완전 가이드 2025: 캐싱 전략, 데이터 구조, Pub/Sub, 그리고 Redis Stack까지

  Redis의 모든 것! 5가지 데이터 구조 활용법, 캐싱 패턴(Cache-Aside/Write-Through/Write-Behind), Pub/Sub, Redis Streams, Redis Stack(JSON/Search/TimeSeries), Lua 스크립트, Cluster, 면접 질문까지.

  2026-03-23 · 30 분 읽기 #redis#caching#data-structures#pubsub#redis-stack

• Redis 캐싱 전략 완벽 가이드 — Cache-Aside부터 Write-Behind까지 실전 패턴 6가지

  Redis를 활용한 6가지 캐싱 전략(Cache-Aside, Read-Through, Write-Through, Write-Behind, Refresh-Ahead, Cache Stampede 방지)을 코드 예제와 함께 다룹니다.

  2026-03-03 · 13 분 읽기 #database#redis#caching#cache-aside#write-through

• Nginx 설정 완벽 가이드: 아키텍처부터 프로덕션 최적화까지 15가지 핵심 주제 ♪ 들을 수 있어요

  Nginx의 이벤트 기반 아키텍처와 설정 구조부터 리버스 프록시, 로드 밸런싱, SSL/TLS, 캐싱, Rate Limiting, 보안 헤더, 성능 튜닝, 헬스체크까지 — 프로덕션 환경에서 즉시 활용 가능한 15가지 핵심 설정을 실전 예제와 함께 완벽하게 정리한다.

  2026-03-01 · 44 분 읽기 #nginx#reverse-proxy#load-balancing#ssl#tls