浅谈temperature
什么是temperature?
temperature是大预言模型生成文本时常用的两个重要参数。它的作用体现在控制模型输出的确定性和多样性:
-
控制确定性:
temperature参数可以控制模型生成文本的确定性,大部分模型中temperature取值范围为(0-1]。
- 接近0时,模型倾向于选择概率最高的输出,使生成的文本更加确定、一致。
- 接近1时,模型倾向于按照概率分布随机选择输出,使输出的文本更加多样化。
-
创造性与多样性:
较高的值能够鼓励模型尝试不同的、可能较少出现的表达,从而增加生成内容的创造性和多样性。如文学创作场景设置高一点
temperature逻辑通俗理解
图片不清晰,附件为pdf原图