大模型中Temperature的解释

Temperature(温度)是大模型生成时的超参数,通过缩放 logits 调节输出概率分布的‌随机性与确定性‌:值越低输出越保守可预测,值越高越多样但可能失准 。‌‌

核心作用与数值含义

  • ‌**T < 1(低温)**‌:概率分布变"尖锐",高概率词被放大,输出更确定、重复、适合事实问答/代码/翻译。
  • ‌T = 1‌:保持模型原始概率分布,为标准采样基准。
  • ‌**T > 1(高温)**‌:概率分布变"平滑",低概率词机会增加,输出更多样、跳跃,适合创意写作/头脑风暴;过高(如>1.5)易导致逻辑混乱或幻觉。
  • ‌T = 0‌:退化为贪婪解码(始终选概率最大词),输出完全固定可复现 。‌‌
相关推荐
johnsong5 分钟前
Claude Fable 5.2 登顶:65 分、单发做游戏,和一份 $26.54 一单的账单
人工智能·游戏
凌杰12 分钟前
AI 学习笔记:Transformer 架构详解
人工智能
硅谷秋水21 分钟前
扩展机器人智能体的在线探索能力
人工智能·语言模型·机器人
Eyfcom22 分钟前
〖高级算法实战 04〗物流定价博弈论:动态定价算法如何平衡运力供需与利润?
人工智能·物流管理系统·高级算法实战·众包物流
锋行天下40 分钟前
服务器 Python 2.7 装不了 langgraph-cli?用本地生成 Dockerfile 曲线救国
人工智能·后端·python
一条大祥脚44 分钟前
深入理解 PyTorch FlexAttention:从 Score Mod 到 Mask Mod 的稀疏加速之道
人工智能·pytorch·python·注意力机制·flex attention·可编程注意力
机 _ 长1 小时前
03 智算运维|丢 0.1% 的包,8 卡训练为什么会崩
人工智能·模型部署·智算运维
汤姆宝库1 小时前
权重量化的实现:从absmax到GPTQ与AWQ
人工智能
硅谷秋水2 小时前
PhysicalWords:一种用于构建机器人操作中潜推理过程的词汇体系
人工智能·机器学习·计算机视觉·语言模型·机器人
喵个咪2 小时前
GoWind 拆解:AI Agent 编排引擎——波次并行、子图递归与人工审批
人工智能·后端·go