技术栈
crossentropy
西西弗Sisyphus
5 个月前
chatgpt
·
crossentropy
深入理解交叉熵损失 CrossEntropyLoss - CrossEntropyLoss
flyfish本系列的主要内容是在2017年所写,GPT使用了交叉熵损失函数,所以就温故而知新,文中代码又用新版的PyTorch写了一遍,在看交叉熵损失函数遇到问题时,可先看链接提供的基础知识,可以有更深的理解。
西西弗Sisyphus
5 个月前
crossentropy
深入理解交叉熵损失 CrossEntropyLoss - 归一化
#深入理解交叉熵损失 CrossEntropyLoss - 归一化假设我们有一个未归一化的概率分布,其值可能是任意非负数,并不满足总和为1的条件。归一化过程如下: