解码策略
- sample实现了怎样的功能
不是直接选择概率最大的token，而是根据多项式分布进行采样获得下一个token
这里的概率通过设置一些策略，进行处理。例如，解码最小长度（当长度小于该值的时候，eos的采样概率为0），top-k设置（小于top-k阈值的采样概率为0），温度参数（对采样概率进一步处理）
- contrastive_search实现了怎样的功能
为了增加解码的多样性，在生成token时，即考虑生成概率分布，还要考虑和前面生成的token之间的差异性，选择相似度较小的token
相关推荐
Python极客之家32 分钟前
基于深度学习的乳腺癌分类识别与诊断系统mftang42 分钟前
TMR传感器的实现原理和特性介绍吃什么芹菜卷1 小时前
深度学习：词嵌入embedding和Word2Vecchnyi6_ya1 小时前
论文笔记：Online Class-Incremental Continual Learning with Adversarial Shapley Value中杯可乐多加冰1 小时前
【AI驱动TDSQL-C Serverless数据库技术实战】 AI电商数据分析系统——探索Text2SQL下AI驱动代码进行实际业务萱仔学习自我记录3 小时前
PEFT库和transformers库在NLP大模型中的使用和常用方法详解hsling松子6 小时前
使用PaddleHub智能生成，献上浓情国庆福正在走向自律6 小时前
机器学习框架好吃番茄7 小时前
U mamba配置问题；‘KeyError: ‘file_ending‘CV-King8 小时前
opencv实战项目（三十）：使用傅里叶变换进行图像边缘检测