解码策略
- sample实现了怎样的功能
不是直接选择概率最大的token，而是根据多项式分布进行采样获得下一个token
这里的概率通过设置一些策略，进行处理。例如，解码最小长度（当长度小于该值的时候，eos的采样概率为0），top-k设置（小于top-k阈值的采样概率为0），温度参数（对采样概率进一步处理）
- contrastive_search实现了怎样的功能
为了增加解码的多样性，在生成token时，即考虑生成概率分布，还要考虑和前面生成的token之间的差异性，选择相似度较小的token
相关推荐
xx_xxxxx_几秒前
论文阅读-CoTTARPAdaren8 分钟前
金融政企高合规场景，该选现场编排还是流程库调用型 AI Agent泥人张11 分钟前
踩坑无数换来的教训：指挥AI开发App，这几点你必须知道蓝速科技13 分钟前
政务自助终端信创选型与无人值守落地方案“AI国潮设计-小江”15 分钟前
[AIGC实战] 基于Stable Diffusion的潮汕非遗IP自动化生成工作流（附Python批量处理脚本）szxinmai主板定制专家18 分钟前
RK3576+CODESYS+RK182X+FPGA异构架构：半导体精密设备一体化控制器方案EatFan25 分钟前
GitHub Trending 三连观察：AI 编码智能体进入“周边生态”竞争阶段szxinmai主板定制专家27 分钟前
半导体设备控制器：RK3576+CODESYS+RK182X异构架构，实现晶圆视觉检测与运动联动闭环空奈qwq28 分钟前
PyTorch 进阶指南：从张量操作到模型训练全流程会议咨询28 分钟前
2026年计算机工程、数据处理与机器学习国际会议（CDML 2026）