标签: #llm-d
用亲手运行、亲手测量的数据来写 Kubernetes、DevOps 与 MLOps · 1 篇
当文档仍在引用 vLLM 已删除的指标名称时：llm-d 文档 PR 在短短 2 小时 9 分钟内成功合并的全过程
llm-d 的三处文档当时仍在引用当前 vLLM 不再导出的指标名称。指南中的 vllm:gpuprefixcachehitrate 是在 vLLM 0.10 中消失的 V0 引擎 Gauge，而自动扩缩器设计文档以及 DigitalOcean 仪表盘中的 vllm:timeperoutputtokenseconds 则是自 0.11 起改名、并在 0.15 中被删除的 Histogram。我们直接拉取了 vllm v0.31.0 的
2026-10-16 · 18 分钟阅读 #오픈소스#오픈소스 기여#llm-d#vLLM#Prometheus