解码策略
- sample实现了怎样的功能
不是直接选择概率最大的token，而是根据多项式分布进行采样获得下一个token
这里的概率通过设置一些策略，进行处理。例如，解码最小长度（当长度小于该值的时候，eos的采样概率为0），top-k设置（小于top-k阈值的采样概率为0），温度参数（对采样概率进一步处理）
- contrastive_search实现了怎样的功能
为了增加解码的多样性，在生成token时，即考虑生成概率分布，还要考虑和前面生成的token之间的差异性，选择相似度较小的token
相关推荐
T__TIII2 分钟前
Dify 插件非正式打包jerwey6 分钟前
大语言模型（LLM）按架构分类令狐少侠201117 分钟前
ai之RAG本地知识库--基于OCR和文本解析器的新一代RAG引擎：RAGFlow 认识和源码剖析小叮当爱咖啡21 分钟前
Seq2seq+Attention 机器翻译shadowcz00722 分钟前
奥特曼论人工智能、OpenAI与创业AI人工智能+33 分钟前
应用俄文OCR技术，为跨语言交流与数字化管理提供更强大的支持UQI-LIUWJ1 小时前
李宏毅LLM笔记： AI Agent百度Geek说1 小时前
百度阮瑜：百度大模型应用赋能产业智变｜2025全球数字经济大会大明哥_1 小时前
最新 Coze 教程：40+ 条视频涨粉 10W+，利用 Coze 工作流 + 视频组件，一键制作爆款小人国微景动画视频SugarPPig1 小时前
ReAct (Reason and Act) OR 强化学习（Reinforcement Learning, RL）