标签: #어댑터 슬롯

← 全部文章

• 亲自测算 LoRA 适配器服务：吞吐量成本、适配器槽位与运行时加载

  在使用单一基底模型加载多个 LoRA 适配器进行服务时，我们使用 1.7B 模型和 vLLM 亲自测算了吞吐量会下降多少、适配器数量超过槽位数量时会发生什么，以及在运行时加载适配器需要花费多长时间。

  2026-10-07 · 19 分钟阅读 #LoRA#vLLM#멀티 어댑터#서빙#처리량