解码策略
- sample实现了怎样的功能
不是直接选择概率最大的token，而是根据多项式分布进行采样获得下一个token
这里的概率通过设置一些策略，进行处理。例如，解码最小长度（当长度小于该值的时候，eos的采样概率为0），top-k设置（小于top-k阈值的采样概率为0），温度参数（对采样概率进一步处理）
- contrastive_search实现了怎样的功能
为了增加解码的多样性，在生成token时，即考虑生成概率分布，还要考虑和前面生成的token之间的差异性，选择相似度较小的token
相关推荐
九亿AI算法优化工作室&11 分钟前
结合大语言模型的机械臂抓取操作学习kaamelai11 分钟前
Kaamel视角下的MCP安全最佳实践我要学脑机15 分钟前
基于常微分方程的神经网络（Neural ODE）有颜有货26 分钟前
2025汽车制造企业数字化转型路径参考阿星AI工作室29 分钟前
小白也能用AI开发「小红书自动归档多维表格」采集神器，躺平整理笔记真香云天徽上30 分钟前
【数据可视化-42】杂货库存数据集可视化分析大模型真好玩33 分钟前
初学者必看大模型微调指南：Unsloth官方微调技巧大公开！自由随风飘40 分钟前
机器学习第三篇 模型评估（交叉验证）vocal41 分钟前
谷歌第七版Prompt Engineering—第三部分ConardLi1 小时前
要给大家泼盆冷水了，使用 MCP 绝对不容忽视的一个问题！