技术栈

束搜索

loveisastory
10 个月前
贪心算法·采样·温度·topk·llm解码原理·束搜索·top-p
昇思25天学习打卡营第13天 | LLM原理和实践:文本解码原理--以MindNLP为例W 0 W_0 W0:初始上下文单词序列t t t: 时间步当生成EOS标签时,停止生成。MindNLP/huggingface Transformers提供的文本生成方法