解码策略
- sample实现了怎样的功能
不是直接选择概率最大的token，而是根据多项式分布进行采样获得下一个token
这里的概率通过设置一些策略，进行处理。例如，解码最小长度（当长度小于该值的时候，eos的采样概率为0），top-k设置（小于top-k阈值的采样概率为0），温度参数（对采样概率进一步处理）
- contrastive_search实现了怎样的功能
为了增加解码的多样性，在生成token时，即考虑生成概率分布，还要考虑和前面生成的token之间的差异性，选择相似度较小的token
相关推荐
喵~来学编程啦8 分钟前
【论文精读】LPT: Long-tailed prompt tuning for image classification深圳市青牛科技实业有限公司21 分钟前
【青牛科技】应用方案｜D2587A高压大电流DC-DC水豚AI课代表41 分钟前
分析报告、调研报告、工作方案等的提示词几两春秋梦_42 分钟前
符号回归概念用户691581141652 小时前
Ascend Extension for PyTorch的源码解析用户691581141652 小时前
Ascend C的编程模型成富3 小时前
文本转SQL（Text-to-SQL），场景介绍与 Spring AI 实现CSDN云计算3 小时前
如何以开源加速AI企业落地，红帽带来新解法艾派森3 小时前
大数据分析案例-基于随机森林算法的智能手机价格预测模型hairenjing11233 小时前
在 Android 手机上从SD 卡恢复数据的 6 个有效应用程序