在vLLM中，repetition_penalty、frequency_penalty和presence_penalty是三个专门用于控制文本生成重复性的关键参数。虽然目标相似，但它们的实现逻辑和作用范围各有侧重。
下面这个表格能帮你快速把握它们的核心区别。
| 参数名称 | 作用对象 | 惩罚依据 | 数学操作核心 | 主要影响 |
|---|---|---|---|---|
repetition_penalty |
提示词和已生成文本中的所有token | token是否出现过（一次或多次） | 缩放 (Scaling)：对已出现token的logits进行除法或乘法操作 | 广泛抑制所有已出现过的token，防止任何形式的重复 |
frequency_penalty |
已生成文本中的token | token出现的频率（次数） | 偏移 (Shifting)：从已出现token的logits中减去一个与频率成正比的值 | 重点打击高频重复出现的token |
presence_penalty |
已生成文本中的token | token是否出现过（不论次数） | 偏移 (Shifting) ：从已出现token的logits中减去一个固定值 | 鼓励词汇多样性，避免重复使用已出现的词 |
🔧 深入实现细节
这三个参数通过调整模型预测下一个token时产生的原始分数（logits）来工作。
repetition_penalty的实现最为直接和强力。它的逻辑是：只要一个token在提示词或已生成文本中出现过，就惩罚它 。具体实现上，vLLM会创建一个掩码（mask）来标识这些token，然后根据其原始logits的正负，进行除法或乘法操作，从而降低它们被再次选中的概率。这是一个全局性的惩罚。frequency_penalty和presence_penalty则只关注已经生成的文本 （不包含提示词），并且都采用"减法"逻辑。它们的区别在于：frequency_penalty的惩罚力度与token出现的次数挂钩。一个词出现得越频繁，被减去的值就越大，从而有效抑制"的"、"是"等高频功能词或特定内容词的过度重复。presence_penalty的惩罚是"一视同仁"的。只要一个token在已生成文本里出现过一次 ，就会从它的logits中减去一个固定的值，无论它出现了1次还是10次。这主要为了鼓励模型使用新词，增加文本的多样性。
💡 如何使用与调优
理解它们的区别后，你可以根据生成任务的目标来组合使用这些参数：
- 应对严重重复 ：当发现模型像"复读机"一样不断重复短语或句子时，可以优先尝试调高
repetition_penalty(默认1.0，例如设为1.1到1.5之间，qwen3 vl 8b设为1.0）。 - 追求内容多样 ：在创意写作、对话生成等场景下，若希望用词更丰富，可以适当提高
presence_penalty(默认0.0，例如0.3到0.7，qwen3 vl 8b在vl设为1.5，在text设为2.0）。 - 处理高频词重复 ：如果生成文本中某个非关键词语（非"的"、"了"等）反复出现，可以尝试使用
frequency_penalty（默认0.0）。 - 组合使用 ：通常会将
repetition_penalty与presence_penalty或frequency_penalty结合使用，前者提供基础的重度控制，后者微调多样性。同时，它们常与temperature、top_p等控制随机性的参数协同工作。
重要提示：过度使用这些惩罚参数（尤其是设置过高）可能导致模型生成不连贯或不合逻辑的内容，因为其正常的词汇选择受到了过度干扰。建议从较小的值开始，根据生成结果逐步调整。
希望这些解释能帮助你更好地在vLLM中进行调优。如果你有特定的生成场景（比如写诗、写代码或聊天），我可以提供更具体的参数调整思路。
鸣谢
来自DeepSeek