タグ: #strict

← すべての記事

• ツール呼び出し：パーサーがテキストを関数呼び出しに変換し、strictが引数を制限する

  モデルがツールを呼び出すことは、実際にはモデルが決まった形式のテキストを書くことに他なりません。vLLMでは、チャットテンプレートを使用してプロンプトにツールの一覧を挿入し、モデルが生成したテキストをパーサーがOpenAI形式の toolcalls に変換します。toolchoice が required または特定の関数名である場合、構造化出力によって呼び出しの形式が強制されます。しかし、8GBクラスのGPU上で0.6Bモデルを使用し

  2026-10-27 · 15 分で読めます #vLLM#도구 호출#tool calling#function calling#구조화 출력