解码策略
- sample实现了怎样的功能
不是直接选择概率最大的token，而是根据多项式分布进行采样获得下一个token
这里的概率通过设置一些策略，进行处理。例如，解码最小长度（当长度小于该值的时候，eos的采样概率为0），top-k设置（小于top-k阈值的采样概率为0），温度参数（对采样概率进一步处理）
- contrastive_search实现了怎样的功能
为了增加解码的多样性，在生成token时，即考虑生成概率分布，还要考虑和前面生成的token之间的差异性，选择相似度较小的token
相关推荐
视***间2 分钟前
视程空间 AIR SC6N0-C-MB NX 16GB 规格详解与机器人/机器狗适配说明视***间3 分钟前
小身板・强算力・全适配 —— 视程空间 AI 算力开发板如何完美适配机器人 / 机器狗网宿安全演武实验室7 分钟前
当AI跑进容器：全链路容器安全检测与智能运营实Cosolar8 分钟前
2026年AI Agent技术生态开源项目合集带娃的IT创业者14 分钟前
本地AI的觉醒：GitNexus如何让GenAI从云端走向你的口袋火山引擎开发者社区32 分钟前
龙虾突然“罢工”？别慌，我们派出了“AI 医生”NQBJT36 分钟前
青鸾云步：基于 Cordova 的 AI 导盲机器人 APP 全栈开发实战深兰科技1 小时前
韩国KAIST AI半导体高管项目代表团到访深兰科技，聚焦AI算力与智能产业合作机会快乐on9仔1 小时前
NLP学习（一）transformers之pipeline体验