解码策略
- sample实现了怎样的功能
不是直接选择概率最大的token，而是根据多项式分布进行采样获得下一个token
这里的概率通过设置一些策略，进行处理。例如，解码最小长度（当长度小于该值的时候，eos的采样概率为0），top-k设置（小于top-k阈值的采样概率为0），温度参数（对采样概率进一步处理）
- contrastive_search实现了怎样的功能
为了增加解码的多样性，在生成token时，即考虑生成概率分布，还要考虑和前面生成的token之间的差异性，选择相似度较小的token
相关推荐
冬奇Lab16 分钟前
Agent 系列（21）：Harness 测试工程——45 个测试怎么设计，以及它发现了什么 bug冬奇Lab25 分钟前
每日一个开源项目（第133篇）：EchoBird - 把 AI 工具的安装和部署做成傻瓜操作IT_陈寒2 小时前
Redis的SETNX并发问题让我加了三天班用户5191495848453 小时前
Windows 渗透测试载荷加载器 POC 工具集大树883 小时前
金刚石散热越强，管路越先见顶通信小呆呆4 小时前
当算法有了“五感”：多模态数据融合如何向人体感官协同学习？施小赞4 小时前
普通 RAG vs GraphRAG 核心对比EAIReport4 小时前
RuoYi-AI 企业级AI开发平台实战详解HelloWorld__来都来了4 小时前
【每日学术速报】2026-06-15H__Rick4 小时前
自动对焦学习-3