解码策略
- sample实现了怎样的功能
不是直接选择概率最大的token，而是根据多项式分布进行采样获得下一个token
这里的概率通过设置一些策略，进行处理。例如，解码最小长度（当长度小于该值的时候，eos的采样概率为0），top-k设置（小于top-k阈值的采样概率为0），温度参数（对采样概率进一步处理）
- contrastive_search实现了怎样的功能
为了增加解码的多样性，在生成token时，即考虑生成概率分布，还要考虑和前面生成的token之间的差异性，选择相似度较小的token
相关推荐
黎燃4 小时前
短视频平台内容推荐算法优化：从协同过滤到多模态深度学习飞哥数智坊5 小时前
多次尝试用 CodeBuddy 做小程序，最终我放弃了后端小肥肠6 小时前
别再眼馋 10w + 治愈漫画！Coze 工作流 3 分钟出成品，小白可学唐某人丶9 小时前
教你如何用 JS 实现 Agent 系统（2）—— 开发 ReAct 版本的“深度搜索”FIT2CLOUD飞致云9 小时前
九月月报丨MaxKB在不同规模医疗机构的应用进展汇报阿里云大数据AI技术9 小时前
【新模型速递】PAI-Model Gallery云上一键部署Qwen3-Next系列模型袁庭新9 小时前
全球首位AI机器人部长，背负反腐重任机器之心10 小时前
谁说Scaling Law到头了？新研究：每一步的微小提升会带来指数级增长算家计算10 小时前
AI配音革命！B站最新开源IndexTTS2本地部署教程：精准对口型，情感随心换量子位10 小时前
马斯克周末血裁xAI 500人