タグ: #vllm

← すべての記事

• vLLMメトリクス — 何をダッシュボードに載せ何でアラートを張るか

  vLLMが公開する時系列は、GPUメトリクスが答えられない問いに答えます。今いくつ実行中でいくつ待機中か、KVキャッシュがどれだけ埋まっているか、最初のトークンまで何秒かかるか、といったことです。本記事ではvLLM公式ドキュメントとリポジトリのメトリクスロガーのソースを直接読み、スケジューラ状態のゲージ、キャッシュ系カウンタ、遅延ヒストグラムの正確な名前と意味を整理し、カウンタ名の接尾辞の違いのようにバージョン間で人をつまずかせる箇所を

  2026-08-12 · 12 分で読めます #gpu#kubernetes#vllm#prometheus#observability

• vLLM 内部構造 (5) — プレフィックスキャッシュ、システムプロンプト設計が性能になる理由

  vLLMのプレフィックスキャッシュがいつ効いていつ効かないかを、公式設計ドキュメントを基準に整理する。ブロックハッシュが直前のブロックに鎖のように連なる構造、フルに埋まったブロックだけがキャッシュされる理由、プロンプトの先頭に置いたタイムスタンプ一つがキャッシュ全体を無効にする過程、そしてcachesaltまで扱う。vLLM内部構造シリーズ第5回。

  2026-08-12 · 12 分で読めます #vllm#prefix-caching#kv-cache#prompt-engineering#llm

• vLLM 内部構造 (3) — 連続バッチングが GPU を遊ばせない仕組み

  静的バッチングがなぜGPUを遊ばせるのか、vLLMのイテレーション単位のスケジューリングがそれをどうなくすのかを整理した。prefillとdecodeの性質の違い、V1の統合スケジューラとトークン予算、chunked prefillがレイテンシと処理量に与える影響を公式ドキュメント基準で確認した。vLLM内部構造シリーズ第3回。

  2026-08-12 · 11 分で読めます #vllm#continuous-batching#chunked-prefill#llm#inference

• vLLM 内部構造 (4) — スケジューラとプリエンプション、スループットが崩れる地点

  vLLMスケジューラが毎ステップ何を決定しているのか、待機キューと実行リストがどう動くのか、KVキャッシュが不足したときに起きるプリエンプション(preemption)がレイテンシと処理量をどう崩すのかを、公式ドキュメントとV1スケジューラソースで確認して整理した。recomputeとswapの違い、fcfsとpriorityポリシーも合わせて扱う。vLLM内部構造シリーズ第4回。

  2026-08-12 · 12 分で読めます #vllm#scheduler#preemption#kv-cache#llm

• vLLM 内部構造 (1) — リクエスト一つがトークンになるまでの全経路

  vLLMにリクエストが一つ入ってからトークンが出てくるまでの全経路をたどる。APIサーバー、スケジューラ、KVキャッシュマネージャ、ワーカー、サンプラーがそれぞれ何をしているのか、V1書き換え以降プロセスがどう分かれているのかを公式ドキュメントとソースで確認して整理した。vLLM内部構造シリーズ第1回。

  2026-08-12 · 9 分で読めます #vllm#llm#inference#gpu#ai-platform

• vLLM 内部構造 (7) — デプロイのチューニングとよくある落とし穴、OOM の切り分け順

  vLLMのデプロイを実際にチューニングする手順を整理する。gpumemoryutilizationが何を決めるのか、テンソル並列とパイプライン並列をいつ使うのか、量子化とKVキャッシュのデータ型をどう選ぶのか、そしてOOMが起きたときに起動段階と運用段階を分けて診断する手順まで、公式ドキュメントを基準に確認して整理した。vLLM内部構造シリーズ最終回。

  2026-08-12 · 16 分で読めます #vllm#gpu#quantization#tensor-parallel#llm

• vLLM 内部構造 (2) — PagedAttention はなぜ KV キャッシュをページに分けたのか

  PagedAttentionがKVキャッシュをブロック単位に分割した理由を、原論文(arXiv:2309.06180)とvLLM公式設計ドキュメントで確認して整理した。連続割り当てが生む内部・外部フラグメンテーション、ブロックテーブルが担う役割、ブロックサイズを大きくしたり小さくしたりする際のトレードオフまで扱う。vLLM内部構造シリーズ第2回。

  2026-08-12 · 12 分で読めます #vllm#paged-attention#kv-cache#llm#gpu

• vLLM 内部構造 (6) — コンテキストウィンドウ、max_model_len、max_tokens 完全整理

  コンテキストウィンドウとmaxtokensの違いが紛らわしいなら、この記事一つで整理できる。モデルのコンテキストウィンドウ(構造的な上限)、vLLMのmaxmodellen(エンジン設定)、リクエストごとの生成上限であるmaxtokensとmaxcompletiontokens、そしてバッチの上限であるmaxnumbatchedtokensとmaxnumseqsがそれぞれ何を制限するのかを、比較表と実際のエラーメッセージで整理した。入力

  2026-08-12 · 20 分で読めます #vllm#context-window#max-model-len#max-tokens#llm

• vLLMを速くする — 設定、内部構造、そしてコードに手を入れるべき場所 ♪ 聞けます

  vLLMの性能を上げる作業を、コードを触らずにできることから順に整理します。バッチ関連の引数とプレフィックスキャッシュ、チャンクドプリフィル、量子化の選択をまず扱い、そのあとPagedAttentionと連続バッチングスケジューラが内部で何を決めているのかを、実際のソースを根拠に説明します。実際にコードを触る価値のある三箇所、カスタムロジットプロセッサ、カスタムアテンションバックエンド、スケジューラポリシーとその代償も押さえます。何を固

  2026-08-02 · 33 分で読めます #vllm#llm-inference#paged-attention#benchmark#scheduler

• PD分離はスループットを増やさない — プリフィル/デコード分離が実際に買うもの

  プリフィルとデコードを別々のGPUに分けるPD分離は、2026年にvLLM・SGLang・TensorRT-LLMすべてに入った設計ですが、どこを見ても「2倍から7倍」という数字ばかりが出回っています。ところがvLLM公式ドキュメントは同じ機能について「分離プリフィルはスループットを改善しない」と大文字で明記しています。実は両方とも正しいのです — そのベンダー数値はすべて、スループットではなくgoodput(SLOを守った処理量)か、

  2026-07-16 · 29 分で読めます #llm#ai#inference#kv-cache#vllm

• LLM推論サービング2026 — vLLM、SGLang、TensorRT-LLMの比較

  2026年のLLM推論サービングを一目で整理します。prefillとdecodeの性質の違い、continuous batching、paged KVキャッシュといった核心原理から、vLLM、SGLang、TensorRT-LLMの強み弱みの比較と選択ガイド、実際のデプロイ設定まで、開発者の視点で扱います。

  2026-06-26 · 26 分で読めます #llm-serving#vllm#sglang#tensorrt-llm#inference

• マルチモーダルLLMのサービング — 画像入力が生む新たな課題

  テキスト専用LLMサービングとの違いから、ビジョンエンコーダの追加段階、可変のビジュアルトークン数、プリフィルコストの急増、マルチモーダルKVキャッシュとバッチングの難しさ、遅延分解とスループット最適化、コストと運用の落とし穴まで、マルチモーダルLLMサービングの実務を整理します。

  2026-06-26 · 24 分で読めます #mlops#multimodal#llm-serving#vllm#kv-cache

• KVキャッシュとPagedAttention — 推論メモリのすべて

  LLM推論でメモリを最も消費する張本人であるKVキャッシュを深く掘り下げます。KVキャッシュとは何か、なぜメモリを消費するのか、メモリの計算と断片化の問題、PagedAttentionのブロック管理、prefix共有とKV量子化まで、開発者の視点で整理します。

  2026-06-26 · 21 分で読めます #kv-cache#paged-attention#inference#gpu-memory#quantization

• ローカルLLM推論最適化 — 量子化からVRAM限界の突破まで

  プライバシーとコスト、そしてビッグテック疲れの中でローカルLLMが再び盛り上がっています。VRAM中心のハードウェア選択、GGUFとAWQの量子化、llama.cppとvLLMとOllamaの比較、KV cacheのメモリ計算、VRAMをスワップとして使う逆転の発想ハックまで、ローカル推論最適化の全体地図を描きます。

  2026-06-12 · 26 分で読めます #llm#inference#quantization#llama-cpp#vllm

• LLM論文キュレーション 2024-2026 - Llama・DeepSeek・Qwen・Mistral・Phi・RLHF・DPO・CoT・RAG・FlashAttention・vLLM 詳細ガイド

  LLMを構築し運用するエンジニアのための2024-2026必読論文30+本キュレーション。基盤モデル(Llama 3/4、DeepSeek-V3/R1、Qwen3、Mistral、Phi-4、Gemma 3)、学習革新(MoE、MLA、GQA)、ポストトレーニング(RLHF、DPO、ORPO、KTO)、推論(CoT、ToT、GRPO)、エージェント(ReAct、SWE-Agent)、検索(RAG、GraphRAG、ColBERT)、効率

  2026-05-16 · 25 分で読めます #llm#papers#llama#deepseek#qwen

• LLM サービング & ローカル推論 2026 — vLLM / llama.cpp / MLX / Ollama / LM Studio / SGLang / TGI 徹底比較 ♪ 聞けます

  2026 年の LLM サービング・推論フレームワークの地図を描く。データセンター陣営(vLLM・SGLang・TGI・Triton・TensorRT-LLM)、ローカル陣営(llama.cpp・MLX・llamafile・Ollama・LM Studio・GPT4All)、新興陣営(KTransformers・MLC LLM・Modular MAX)、そしてクラウドサービング SaaS(Together・Fireworks・Groq・

  2026-05-16 · 34 分で読めます #llm#model-serving#inference#vllm#llama-cpp

• AI 推論エンジン 2026 完全ガイド - vLLM · SGLang · llama.cpp · TGI · TensorRT-LLM · MLX · mistral.rs · DeepSpeed-MII · Aphrodite 徹底解剖

  2026 年の LLM エンジニアリングはもうモデル選定の問題ではなく、エンジン選定の問題になった。vLLM V1、SGLang 0.4、TensorRT-LLM、TGI 3.x、llama.cpp、MLX-LM、mistral.rs、DeepSpeed-MII、Aphrodite、CTranslate2、ExLlamaV3、OpenVINO、AWS Neuron、Triton — 10 以上のエンジンを PagedAttention・

  2026-05-16 · 26 分で読めます #llm-inference#vllm#sglang#llama-cpp#tgi

• MLOps 完全ガイド — Model Serving・Feature Store・Drift・A/B Test・GPU Economics (Season 2 Ep 7, 2025)

  モデルを学習することと本番で運用することは全く別のゲームである。Serving (TorchServe・Triton・vLLM・TGI)、Feature Store (Feast・Tecton)、Training Infra (Ray・Determined)、Experiment Tracking (MLflow・W&B)、Data/Concept Drift 検知、Model A/B Test と Shadow Deployment、

  2026-04-15 · 15 分で読めます #mlops#model-serving#feature-store#drift-detection#ab-testing

• LLM推論最適化完全ガイド2025：vLLM、TensorRT-LLM、KV Cache、Speculative Decoding

  LLM推論最適化のすべて！vLLM（PagedAttention）、TensorRT-LLM（FP8/INT4）、KV Cache管理、Speculative Decoding、Continuous Batching、FlashAttention、量子化（GPTQ/AWQ/GGUF）、モデルサービング（Triton/vLLM/TGI）、GPUメモリ最適化、コスト分析。

  2026-04-14 · 31 分で読めます #llm-inference#vllm#tensorrt-llm#kv-cache#speculative-decoding

• LLM サービング最適化完全ガイド：KVキャッシュ、PagedAttention、量子化のすべて ♪ 聞けます

  LLMサービングの核心最適化技術を完全解剖する。KVキャッシュのメモリ問題からPagedAttentionの仮想メモリ革新、連続バッチング、投機的デコーディング、量子化、そしてvLLM/TGI/TensorRT-LLMの比較まで。

  2026-03-18 · 44 分で読めます #LLMサービング#KVキャッシュ#paged-attention#vllm#量子化