タグ: #observability
GPU・LLM・MLOps・Kubernetes、そしてマインドセット · 113 件
#observability タグの記事は113件で、最新の記事は2026-08-14に公開されました。
よく一緒に付くタグ: #opentelemetry 36 #prometheus 29 #2026-03 28 #monitoring 21 #kubernetes 19
過去90日間によく読まれた記事:
Langfuse SDK計測 — 何が自動で取れて何を手で入れるか
トレースを作る作業はSDKを入れることではなく、境界を引くことです。本記事はLangfuse Python SDK v4を基準に、デコレータ、コンテキストマネージャ、手動生成という三つの計測方式が何を違えているのかを整理し、属性を下へ流すpropagateattributesがなぜ必要か、OpenAIやLangChainのようなフレームワーク統合が自動で取ってくれる範囲はどこまでかを押さえます。v4で取り込み経路がOpenTelemet
2026-08-14 · 14 分で読めます #observability#langfuse#llm-tracing#instrumentation#opentelemetryLangfuseがトレースをClickHouseに置く理由 — 保存層の役割分担
Langfuseを自分で立ち上げてみると、まずデータストアが一つではないことに驚きます。ClickHouse、Postgres、Redis、オブジェクトストレージの四つがそれぞれ別の役割を担います。本記事は公式ドキュメントを基準に、各ストアが何を持つのか、取り込まれたイベントがどの順序でこれらの構成要素を通るのか、大きなペイロードがどこへ抜けるのかを整理します。カラム指向ストレージがトレース分析の問い合わせに合う理由をClickHous
2026-08-14 · 19 分で読めます #observability#langfuse#clickhouse#architecture#postgresLangfuseトレーシングのデータモデル — trace、observation、scoreが一度の実行を収める形
Langfuseの画面を先に見ても、何を見ているのかは分かりません。本記事はLangfuseが収集するデータの形から整理します。traceが何をまとめ、observationがspan・generation・eventに分かれる基準は何か、sessionとuserがtraceの上にどんな層として乗るのか、scoreがどこに付くのかを公式ドキュメントで確認します。RAGの一回の呼び出しとエージェントの一回の実行がそれぞれどんなツリーとして
2026-08-14 · 14 分で読めます #observability#langfuse#llm-tracing#data-modeling#opentelemetry集めたあと — Langfuseのダッシュボード、メトリクスAPI、そしてトレースに付く評価
トレースを集めることと、そのトレースから答えを得ることは別の仕事です。本記事はLangfuseが提供する指標の軸は何で、それをどの次元で切って見るべきかを整理したうえで、メトリクスAPI v2の問い合わせ構造を実際のリクエストの形で確認します。v4でtracesビューが姿を消しobservations中心に再編された変化、scoreがtrace・observation・session・データセット実行の四か所に付く仕組み、評価器がtra
2026-08-14 · 16 分で読めます #observability#langfuse#llm-evaluation#metrics-api#dashboardLangfuseのセルフホスト — 配備経路、シークレット、そして初回起動で引っかかるもの
Langfuseを自分で運用するには、コンテナ二つとデータストア四つを同時に立てる必要があります。本記事は公式ドキュメントを基準に、docker compose の経路とHelmチャートの経路をそれぞれ整理し、必ず自分で作って入れるシークレットは何か、PostgresとClickHouseの接続文字列がなぜ二つずつ必要か、オブジェクトストレージの設定でMinIOが要求するオプションは何かを押さえます。マイグレーションが自動で走る仕組みと
2026-08-14 · 15 分で読めます #observability#langfuse#self-hosting#docker-compose#kubernetesトレースが費用になるとき — Langfuseの保持、サンプリング、マスキング
トレーシングはトラフィックが少ないうちは無料のように見え、ある時点から保存費用と個人情報の問題として戻ってきます。本記事はLangfuseで量が費用に変わる地点を四つに分けて整理し、公式ドキュメントを基準にサンプリングがtrace単位で決まるという事実とそれが実務で何を意味するか、PythonとJSそれぞれのマスキング方式がデータをどの時点で隠すのかを確認します。保持ポリシーの既定値が削除しないであること、最小の保持期間と削除の基準にな
2026-08-14 · 16 分で読めます #observability#langfuse#cost#sampling#data-retentionDeepSeek Harnessのプラグインカーネル構造 — 巻き戻せるエージェントは何が違うのか
DeepSeekが公開したオープンソースのコーディングエージェントHarnessは、モデルもツールもUIもすべてプラグインにした構造です。ただし実際に興味深いのはプラグインという言葉ではなく、2つの設計判断です。1つはすべての実行を追記専用のイベントログに残し、再開・分岐・再生を同じストリーム上で扱うこと、もう1つはプラグインを外すときに副作用を巻き戻すことを強制する点です。この構造が何を可能にするのか、そしてプラグイン生態系への古い反
2026-08-14 · 13 分で読めます #ai-agent#architecture#plugin-system#observability#open-sourceいま注目のオープンソース (4) オブザーバビリティとセキュリティ
観測データは量がそのままコストになり、セキュリティツールはパイプラインに入り込めなければ使われません。計装の標準、ストレージエンジン、eBPF ベースのランタイム監視、サプライチェーンの検証まで、実際に定着したオープンソース 12 個を、スター数の順位ではなく担当する層ごとにまとめて紹介します。何を置き換えるのか、成熟度はどの程度か、いつ使うべきでないのかも併せて書きました。リポジトリのパスとライセンス、スター数、最新のプッシュは 20
2026-08-12 · 9 分で読めます #open-source#observability#security#opentelemetry#ebpfNVIDIA GPU Operator入門 — もともと手で入れていた六つの部品
KubernetesでGPUを使うには、ドライバ、NVIDIA Container Toolkit、デバイスプラグイン、DCGM、GPU Feature Discovery、Node Feature Discoveryをノードごとに手で揃える必要がありました。NVIDIA GPU Operatorはそれらを一つのオペレータにまとめ、ClusterPolicy一つで望ましい状態を管理します。各コンポーネントが実際に何をするのか、Helmチ
2026-08-12 · 10 分で読めます #gpu#kubernetes#gpu-operator#nvidia#dcgmvLLMメトリクス — 何をダッシュボードに載せ何でアラートを張るか
vLLMが公開する時系列は、GPUメトリクスが答えられない問いに答えます。今いくつ実行中でいくつ待機中か、KVキャッシュがどれだけ埋まっているか、最初のトークンまで何秒かかるか、といったことです。本記事ではvLLM公式ドキュメントとリポジトリのメトリクスロガーのソースを直接読み、スケジューラ状態のゲージ、キャッシュ系カウンタ、遅延ヒストグラムの正確な名前と意味を整理し、カウンタ名の接尾辞の違いのようにバージョン間で人をつまずかせる箇所を
2026-08-12 · 12 分で読めます #gpu#kubernetes#vllm#prometheus#observabilityDCGM Exporter — GPU利用率はあなたが思っているものではない
DCGM ExporterはGPUテレメトリをPrometheus形式で公開する標準経路ですが、最も多くダッシュボードに載るGPU利用率系のメトリクスは、人々が期待するものを測っていません。本記事ではdcgm-exporterリポジトリの既定カウンタCSV、DCGM公式ドキュメント、NVML APIドキュメントを直接読み、既定で有効なメトリクス一覧、利用率メトリクスが実際に何を意味するのか、併せて見るべきプロファイリングメトリクスは何か
2026-08-12 · 16 分で読めます #gpu#kubernetes#dcgm#prometheus#observabilityGPUサービングのSLOとアラート設計 — 何を約束し何で人を起こすか
GPU推論サービスにSLOを掛けるには、まずどの指標が利用者体験を代弁するかを決める必要があります。最初のトークンまでの遅延とスループットは互いを食い合う関係にあり、片方だけを見て目標を立てると必ずもう一方が崩れます。本記事ではvLLMとDCGM Exporterが実際に公開する時系列だけを使ってSLIを定義する方法、ヒストグラムのバケット境界を閾値にすべき理由、飽和シグナルを読む順序、症状ベースのアラート設計、そしてGPUサービングで
2026-08-12 · 13 分で読めます #gpu#kubernetes#slo#alerting#prometheus訪問者統計ではトラフィックの0.5パーセントしか見えない — ボット対策は自己申告ではなく出自で行う
150万ページのサイトを1年間スクレイパーから守った記録をもとに、ボットトラフィック対応の原則を整理します。JavaScriptベースの分析ツールはボットを数えられないのでサーバーログを見る必要があり、ユーザーエージェントのような自己申告値ではなく、ASNや地理的位置、暗号学的に検証されたボットかどうかといった偽装しにくい出自の情報で規則を立てるべきです。クロールあたりの流入訪問者数という指標、Cloudflareが公開した比率と個別サ
2026-08-09 · 21 分で読めます #network#bot#cloudflare#waf#scrapingログを検索可能に、そして破産しないように — 構造化、マッピング爆発、保持、そして本当のコスト
ログのコストがコンピュートのコストを上回る瞬間は、たいていの組織に訪れます。その瞬間を遅らせるのは圧縮率ではなく、何をフィールドにするかという判断です。構造化ログのフィールド設計から、OpenSearchのマッピング爆発が実際にクラスタを殺す経路、インデックステンプレートとISMでライフサイクルを制御する方法、原則のあるサンプリングと保持階層までを扱います。最後にログでメトリクスを真似したときにかかるコストを数字で計算します。OpenS
2026-08-02 · 23 分で読めます #observability#logging#opensearch#elasticsearch#cost読まれるダッシュボードと鳴らす価値のあるアラート — 問いの定義、変数構成、SLO、そしてアラート疲れ
ダッシュボードは見た目が美しいことではなく、決まった問いに順番どおり答えられることに価値があります。パネルを作る前に答えるべき問いを書き出す方法から、ひとつのダッシュボードが複数の環境で再利用されるようにデータソースと変数をどう構成するかまでを扱います。アラートは原因ではなく症状に掛けるべき理由を事例で示し、SLOとエラーバジェット、マルチウィンドウのバーンレートアラートを実際のルールとして書きます。最後にアラート疲れを減らすルールと、
2026-08-02 · 24 分で読めます #observability#grafana#alerting#slo#dashboards観測データをClickHouseに入れるということ — スキーマ、ロールアップ、TTL、そして役割分担
トレースとログが一日数TB規模に膨らむと、検索エンジンや時系列DBひとつでは持ちこたえられなくなります。ClickHouseが観測データに合っている理由をカラム指向ストレージと圧縮、ソートキーの観点から整理し、トレースとログのテーブルを実際のDDLで設計します。属性をMapで持つかJSON型で持つかの判断基準、マテリアライズドビューでロールアップを作る方法、パーティショニングとTTLでコストを制御する方法を扱います。最後に、Promet
2026-08-02 · 25 分で読めます #observability#clickhouse#opentelemetry#data-modeling#cost質問に答えるPrometheusメトリクス設計 — 型の選択、カーディナリティ予算、rateと分位数の罠
メトリクスは多ければよいのではなく、質問に答えられてこそ価値があります。カウンタ、ゲージ、ヒストグラムがそれぞれどんな質問に答えるのか、選び方を間違えるとどんな計算が原理的に不可能になるのかから整理します。ラベルのカーディナリティを感覚ではなく数字で予算化する方法、rateとhistogramquantileが静かに間違った答えを返す条件、そしてレコーディングルールをいつどんな名前で作るかを扱います。最後にパネルを作る前に自問すべき五つ
2026-08-02 · 27 分で読めます #observability#prometheus#promql#metrics#cardinalityアプリケーションにOpenTelemetryを付ける — 自動計測から手動スパンまで、そしてコレクタを置く理由
計測はSDKをインストールする作業ではなく、順序を守る作業です。自動計測で1日で骨格を立て、リソース属性を先に確定させたうえで、self timeが大きい区間にだけ手動スパンを入れる順序を、実際のサービスひとつを最後まで計測しながら示します。コンテキスト伝播が途切れる四つの地点、スレッドプール、メッセージキュー、バックグラウンドジョブ、ヘッダーを消すプロキシをそれぞれ再現して直します。最後にコレクタをアプリとバックエンドの間に置く理由を
2026-08-02 · 24 分で読めます #observability#opentelemetry#instrumentation#otel-collector#tracing平均は何も語らない — レイテンシを分布でデバッグする方法
2026年7月27日に公開されHacker Newsのトップに立ったFarid Zakariaの記事「The mean means nothing」は、キャッシュ層をロールアウトした後、平均レイテンシが112msから122msへ9%悪化した事例を扱います。同じデータでp50は99msから54msへ46%改善し、p99は309msから678msへ119%悪化しました。一つのデータが正反対の結論を同時に支持する理由は、分布が単峰から二峰に分
2026-07-31 · 25 分で読めます #observability#latency#performance#histogram#percentileAIエージェントを本番で運用するということ — 冪等性、予算、そして自信満々の誤答
エージェントをプロトタイプから本番へ移すとき、遅れて見つかる運用面があります。リトライされたツール呼び出しの冪等性、予算とステップ上限、非決定的な制御フローの可観測性、ツール単位の権限境界、そしてエージェントが自信満々に間違えたときのエスカレーション経路です。最近GeekNewsのAsk GNに投稿された分析は、ベンチマークのトレース6,780件から重複ツール実行8,042件を見つけ、そのうち159件は状態を変えるツールが実際に重複リソ
2026-07-31 · 29 分で読めます #ai#agents#observability#reliability#mcp