解码策略
- sample实现了怎样的功能
不是直接选择概率最大的token，而是根据多项式分布进行采样获得下一个token
这里的概率通过设置一些策略，进行处理。例如，解码最小长度（当长度小于该值的时候，eos的采样概率为0），top-k设置（小于top-k阈值的采样概率为0），温度参数（对采样概率进一步处理）
- contrastive_search实现了怎样的功能
为了增加解码的多样性，在生成token时，即考虑生成概率分布，还要考虑和前面生成的token之间的差异性，选择相似度较小的token
相关推荐
小魔女千千鱼1 分钟前
openEuler 常用开发工具性能实测：Python、Node.js、Git 运行效率对比用户377833043491 分钟前
（ 教学 ）Agent 构建 Prompt（提示词）4. JsonOutputParserYuSun_WK3 分钟前
检索增强VS知识蒸馏VS伪标签扩展五度易链-区域产业数字化管理平台4 分钟前
行业研究+大数据+AI：“五度易链”如何构建高质量产业数据库？通义灵码6 分钟前
如何调教一名合格的“编程搭子”aitoolhub7 分钟前
AI 生图技术解析：从训练到输出的全流程机制smilejingwei7 分钟前
Text2SQL 破局技术解析之三：NLQ 词典与准确性图欧学习资源库8 分钟前
人工智能领域、图欧科技、IMYAI智能助手2025年11月更新月报小魔女千千鱼10 分钟前
8GB内存也能跑大模型！openEuler + Ollama 实战部署教程用户3778330434910 分钟前
（ 教学 ）Agent 构建 Prompt（提示词）3. StructuredOutputParser （结构化输出）