解码策略
- sample实现了怎样的功能
不是直接选择概率最大的token，而是根据多项式分布进行采样获得下一个token
这里的概率通过设置一些策略，进行处理。例如，解码最小长度（当长度小于该值的时候，eos的采样概率为0），top-k设置（小于top-k阈值的采样概率为0），温度参数（对采样概率进一步处理）
- contrastive_search实现了怎样的功能
为了增加解码的多样性，在生成token时，即考虑生成概率分布，还要考虑和前面生成的token之间的差异性，选择相似度较小的token
相关推荐
爱敲代码的小黄2 小时前
神经网络入门指南：从 CNN、RNN 到 Attention一只爱撸猫的程序猿3 小时前
我看着一个 AI 引擎在 14 天里,从"记忆"走进了"搜索"我登哥MVP3 小时前
DeepSeek-Harness-Super-Agent-学习笔记LucianaiB3 小时前
【元宝搜索开发者征文大赛】AI时代，学得慢就不用学？用元宝搜索打造一个教程保质期，确保每一个教程符合你的现状冬奇Lab5 小时前
一天一个开源项目（第256篇）：Anatomy —— 让 Claude 为技术概念「发明一台机器」，画成可交互的等距插画孟郎郎5 小时前
打造一切（Craft Anything）——克隆构造世间万物Martina_03215 小时前
AI生成3D场景的霓虹灯一开就糊成光团？用6步检查Emissive、Bloom与曝光master3366 小时前
AI领域常用名词的系统梳理Spidermanbaout6 小时前
Prompt-Engineering实战-2026年11月2日