解码策略
- sample实现了怎样的功能
不是直接选择概率最大的token，而是根据多项式分布进行采样获得下一个token
这里的概率通过设置一些策略，进行处理。例如，解码最小长度（当长度小于该值的时候，eos的采样概率为0），top-k设置（小于top-k阈值的采样概率为0），温度参数（对采样概率进一步处理）
- contrastive_search实现了怎样的功能
为了增加解码的多样性，在生成token时，即考虑生成概率分布，还要考虑和前面生成的token之间的差异性，选择相似度较小的token
相关推荐
牛客企业服务5 小时前
AI面试实用性解析：不是“能不能用”，而是“怎么用好”MicroTech20256 小时前
激光点云快速配准算法创新突破，MLGO微算法科技发布革命性点云配准算法技术救救孩子把6 小时前
50-机器学习与大模型开发数学教程-4-12 Bootstrap方法趣知岛6 小时前
AI是否能代替从业者allan bull7 小时前
在节日中寻找平衡：圣诞的欢乐与传统节日的温情土豆12507 小时前
程序员约会指南：从代码到爱情的完美编译Coder_Boy_7 小时前
SpringAI与LangChain4j的智能应用-(实践篇2)love530love7 小时前
【笔记】ComfyUI “OSError: [WinError 38] 已到文件结尾” 报错解决方案咕噜企业分发小米7 小时前
腾讯云向量数据库HNSW索引如何更新？AI即插即用7 小时前
即插即用系列 | TGRS 2025 MGAM：面向遥感微小目标检测的多尺度高斯注意力机制