解码策略
- sample实现了怎样的功能
不是直接选择概率最大的token，而是根据多项式分布进行采样获得下一个token
这里的概率通过设置一些策略，进行处理。例如，解码最小长度（当长度小于该值的时候，eos的采样概率为0），top-k设置（小于top-k阈值的采样概率为0），温度参数（对采样概率进一步处理）
- contrastive_search实现了怎样的功能
为了增加解码的多样性，在生成token时，即考虑生成概率分布，还要考虑和前面生成的token之间的差异性，选择相似度较小的token
相关推荐
benben04418 分钟前
AI独立游戏素材生成实操vlln18 分钟前
机器学习中的维度、过拟合、降维星图云19 分钟前
气象数字地球新生态：星图云全栈解决方案解析 —— 多源数据融合・精细预报・全场景落地全域智图35 分钟前
NDVI谐波拟合（基于GEE实现）那雨倾城1 小时前
使用 OpenCV 实现“随机镜面墙”——多镜片密铺的哈哈镜效果Hunter_pcx1 小时前
从源码编译支持ffmpeg(H264编码)的opencv（创建mp4视频报错：H264 is not supported with codec id 28）丘大梨1 小时前
使用VGG-16模型来对海贼王中的角色进行图像分类群联云防护小杜1 小时前
动态防御体系实战：AI如何重构DDoS攻防逻辑鸭鸭鸭进京赶烤2 小时前
第七届能源系统与电气电力国际学术会议（ICESEP 2025)数据要素X2 小时前
【数据架构06】可信数据空间架构篇