标签: #샘플링

← 全部文章

• 用 OpenTelemetry 观测 LLM 服务：vLLM 的实际输出信号、与标准的差距、用 Collector 弥补

  我们在 vLLM 中启用了 OpenTelemetry 追踪并接入了 Collector，亲自测量了单个请求会留下什么样的 Span 和属性、指标使用什么名称、开启的开销有多大，以及它与 GenAI 语义约定的区别。我们还验证了使用 Collector 的转换处理器将名称调整为符合标准，以及通过尾部采样（Tail-based sampling）仅保留慢请求。本文介绍了 OTCA 考察范围（Collector 管道、采样、语义约定、上下文

  2026-10-08 · 25 分钟阅读 #OpenTelemetry#OTCA#vLLM#트레이싱#컬렉터