解码策略
- sample实现了怎样的功能
不是直接选择概率最大的token，而是根据多项式分布进行采样获得下一个token
这里的概率通过设置一些策略，进行处理。例如，解码最小长度（当长度小于该值的时候，eos的采样概率为0），top-k设置（小于top-k阈值的采样概率为0），温度参数（对采样概率进一步处理）
- contrastive_search实现了怎样的功能
为了增加解码的多样性，在生成token时，即考虑生成概率分布，还要考虑和前面生成的token之间的差异性，选择相似度较小的token
相关推荐
jay神18 小时前
深度学习的优化器应该怎么选？Hello server20 小时前
DeepSeek Harness 深度体验：把「万物皆插件」做到极致的 AI 编程 Agent驴友花雕1 天前
【花雕动手做】行空板 K10 系列实验之人工智能语音识别小车的10个参考案例火山引擎开发者社区1 天前
DeepSeek-V4 Pro 发布，veStack Day 0 完成模型适配2501_926978331 天前
AGI 的四种瓶颈：资源型还是发现型--以及DSH的位置Q463913491 天前
线下销售复盘难落地，AI 会话设备能帮上啥忙ebok.1 天前
国产大模型落地业务系统的优选载体：京微智枢信创 AI 业务支撑平台wujian83111 天前
怎么用文心生成word文档？从格式错乱到智能导出，AI导出鸭让创作再无后顾之忧动物园猫1 天前
猪危险行为目标检测数据集：3类别、5,000+张图像 | 目标检测ai产品老杨1 天前
AI视频分析并发优化完整流程：解决多路视频并发不足与高延迟排查指南