pytorch nn.NLLLoss和nn.CrossEntropyLoss函数区别

nn.CrossEntropyLoss(交叉熵损失函数) 和nn.NLLLoss (负对数似然损失函数)的区别

  1. 输入格式:

    • nn.CrossEntropyLoss:直接接受未归一化的 logits 作为输入,并在内部自动应用 log_softmax 来计算对数概率。
    • nn.NLLLoss:接受对数概率 (log-probabilities)作为输入,也就是说,输入需要先通过 log_softmax处理。
  2. 计算流程:

    • nn.CrossEntropyLoss 的计算流程是:
      1. 先对 logits 应用 softmax,将其转换为概率分布。
      2. 再对概率分布取对数,变为对数概率(log-probabilities)。
      3. 最后,对真实类别对应的对数概率取负值,得到损失。
    • nn.NLLLoss 的计算流程是:
      1. 直接使用对数概率作为输入。
      2. 对真实类别对应的对数概率取负值,得到损失。

代码示例

复制代码
import torch
import torch.nn as nn
import torch.nn.functional as F

logits = torch.tensor([[2.0, 1.0, 0.1]])  # 未归一化的 logits
target = torch.tensor([0])  # 真实标签

# 1. 使用 nn.CrossEntropyLoss
loss_fn_ce = nn.CrossEntropyLoss()
loss_ce = loss_fn_ce(logits, target)  # nn.CrossEntropyLoss 自动进行 log_softmax
print("CrossEntropyLoss:", loss_ce.item())

# 2. 使用 nn.NLLLoss
log_probs = F.log_softmax(logits, dim=1)  # 先手动进行 log_softmax
loss_fn_nll = nn.NLLLoss()
loss_nll = loss_fn_nll(log_probs, target)  # 直接传入对数概率
print("NLLLoss:", loss_nll.item())

在这个例子中,nn.CrossEntropyLoss 和 nn.NLLLoss 的最终损失值是相同的,都是 0.4170。

nn.NLLLoss 的优势

虽然在大多数场景下,使用 nn.CrossEntropyLoss 更方便(因为它直接接受 logits),但 nn.NLLLoss 也有它的优势和特定的应用场景:

  1. 灵活性:

    • nn.NLLLoss 允许用户直接传入经过 log_softmax 处理的对数概率。这在某些需要自定义概率分布或概率结构的任务中是有用的,用户可以手动处理 log_softmax,甚至对其进行进一步的修改和调整。
  2. 与自定义模型结构兼容:

    • 当模型的输出不是传统的 logits 而是已经计算好对数概率的复杂结构时,nn.NLLLoss 更适合,因为它直接接受对数概率,不再需要依赖 CrossEntropyLoss 的内部处理。
  3. 分离 log_softmax 和 NLLLoss 计算:

    • 在一些场景下,我们可能希望将 log_softmax 的计算和损失函数的计算分离,以便在不同的地方使用对数概率。例如,在序列生成任务中,可能需要在生成过程中反复使用 log_softmax 计算对数概率,而不是每次都重新计算。

选择何时使用

  • 使用 nn.CrossEntropyLoss :
    • 大多数情况下,我们的网络输出的是 logits(未归一化的分数),并且希望简化代码,那么 nn.CrossEntropyLoss 是更方便的选择,因为它可以直接处理 logits。
  • 使用 nn.NLLLoss :
    • 当你的模型或任务需要自定义对数概率的计算过程,或者你需要对 log_softmax 进行额外操作,nn.NLLLoss 更加灵活,可以帮助你处理已经是对数概率的输出。
相关推荐
chh5638 小时前
从 BERT 到大模型:让模型从“会接龙”到“会回答
人工智能·深度学习·bert
TomEval8 小时前
【测AI】第26篇:线上模型监控与告警体系 — 测试不是终点
人工智能·python·功能测试·ai
prince_zxill9 小时前
PEP 751 pylock.toml 实测:pip 26.3 装 6 个包版本全钉死,但 [web] 选不中任何东西
python·pip·依赖管理·pep 751
ZhengEnCi9 小时前
AI 总模仿代码库里的过时写法怎么办:先清坏样例,再用类型与测试让 AI 无法犯错
人工智能·ai编程
一只爱撸猫的程序猿9 小时前
五周、两个开源仓库、九次拦截之后:AI 时代程序员缺的到底是什么
人工智能·后端·开源
GitCode官方10 小时前
开源鸿蒙跨平台直播|AI 时代,用 cj-tauri 开发鸿蒙 PC 应用
人工智能·华为·harmonyos·atomgit
老金带你玩AI10 小时前
GPT-6.2更强更便宜了,为什么还有人骂?
人工智能
Thanks_ks10 小时前
Python 的垃圾回收——引用计数撑起日常,分代回收收拾残局
python·内存管理·垃圾回收·循环引用·引用计数·gc 模块·weakref
CyrusYiVPP10 小时前
实测 uv 0.13.7:同一套包,pip 装 94 秒,它只用 19 秒
人工智能·python
泯泷10 小时前
OpenClaw 退潮背后,是 AI 圈“技术自嗨”的终结
人工智能·chatgpt·llm