技术栈
tau-bench
Zlzzz.
2 小时前
语言模型
·
tau-bench
Tau2-bench + vLLM本地部署调用
近期在运行 Tau2-bench 进行模型推理基准测试时,发现其 GitHub 仓库的部署文档较为简略,特别是缺少与 vLLM 框架结合进行本地模型部署的详细教程。因此,本文旨在记录并分享在实际部署过程中遇到的典型问题与解决方案,为有类似需求的开发者提供一份实用的踩坑指南。
我是有底线的