预算只够升级 10% 的查询,该升级谁?金融文档 QA 的Token分配课💡 一句话总结:批量 RAG 有个很少有人正式处理的问题:150 个查询共享一份 token 预算,而「给某个查询上更深检索」的额外成本能差十倍。这篇论文把升级决策做成了资源分配题,结论精确而克制:成本可以预测得很准(R²=0.93),但「升级有没有用」几乎猜不中(AUROC 0.60)。所以在紧预算下,按「收益 ÷ 每 token」排序比按收益排序多救回 7 个升级机会、质量 +0.034、总 token 省 46.6%——而想在整个预算曲面上全面赢,得先把收益预测本身做出来。