半监督语义分割学习笔记

目录

[partial cross entropy loss](#partial cross entropy loss)


GitHub - LiheYoung/UniMatch: [CVPR 2023] Revisiting Weak-to-Strong Consistency in Semi-Supervised Semantic Segmentation

partial cross entropy loss

python 复制代码
import torch
import torch.nn.functional as F

def partial_cross_entropy_loss(inputs, targets, ignore_index=-1):
    """
    自定义部分交叉熵损失函数,忽略 ignore_index 指定的标签。
    
    :param inputs: 模型的输出,形状应为 (N, C, H, W),其中 N 是批量大小,C 是类别数,H 和 W 是高度和宽度。
    :param targets: 真实的标签,形状应为 (N, H, W)。
    :param ignore_index: 要忽略的标签值,默认为 -1。
    :return: 计算得到的损失。
    """
    # 计算 log softmax
    log_probs = F.log_softmax(inputs, dim=1)
    
    # 将 log_probs 和 targets 转换为适合 gather 的形状
    log_probs = log_probs.permute(0, 2, 3, 1)  # (N, H, W, C)
    log_probs = log_probs.reshape(-1, log_probs.shape[-1])  # (N*H*W, C)
    targets = targets.view(-1)  # (N*H*W)
    
    # 掩码未标记的数据点
    mask = targets != ignore_index
    log_probs = log_probs[mask]
    targets = targets[mask]
    
    # 只计算有标签的数据点的损失
    loss = F.nll_loss(log_probs, targets, reduction='mean')
    
    return loss
python 复制代码
# 假设模型的输出和真实标签
outputs = torch.randn(2, 3, 5, 5)  # 随机生成模拟输出(2个样本,3个类别,5x5的图像)
targets = torch.tensor([[[-1, 1, -1, 0, -1], 
                         [1, -1, 2, 2, 1], 
                         [-1, -1, 1, -1, 0], 
                         [2, 2, 2, -1, 1], 
                         [-1, 0, -1, 0, 1]], 
                        [[1, 0, -1, 1, -1], 
                         [2, 2, -1, 0, 0], 
                         [-1, 1, 1, 0, -1], 
                         [0, 0, 2, -1, 1], 
                         [2, -1, 0, -1, -1]]])  # 生成带有未标记区域的标签

# 计算损失
loss = partial_cross_entropy_loss(outputs, targets)
print(f"Loss: {loss.item()}")
相关推荐
聪明的笨猪猪1 小时前
Java Spring “IOC + DI”面试清单(含超通俗生活案例与深度理解)
java·经验分享·笔记·面试
im_AMBER2 小时前
Web 开发 24
前端·笔记·git·学习
递归不收敛3 小时前
吴恩达机器学习课程(PyTorch 适配)学习笔记:3.4 强化学习
pytorch·学习·机器学习
烧冻鸡翅QAQ3 小时前
考研408笔记
笔记·考研
StarPrayers.3 小时前
卷积层(Convolutional Layer)学习笔记
人工智能·笔记·深度学习·学习·机器学习
能不能别报错4 小时前
K8s学习笔记(十五) pause容器与init容器
笔记·学习·kubernetes
无言以对,沉默不语,随你随你。4 小时前
【解决办法】GitBash不能在任意文件夹打开
经验分享·笔记·git
ᖰ・◡・ᖳ4 小时前
JavaScript:神奇的ES6之旅
前端·javascript·学习·es6
小马学嵌入式~4 小时前
堆排序原理与实现详解
开发语言·数据结构·学习·算法
递归不收敛4 小时前
吴恩达机器学习课程(PyTorch适配)学习笔记:1.4 模型评估与问题解决
pytorch·学习·机器学习