LossMaskMatrix损失函数掩码矩阵

文章目录

  • [1. 理论](#1. 理论)
  • [2. python](#2. python)

1. 理论

A = 1 2 0 0 2 3 4 0 → B = 1 1 0 0 1 1 1 0 → C = 0.225 0.610 0 0 0.089 0.242 0.657 0 \begin{equation} A=\begin{bmatrix} 1&2&0&0\\\\ 2&3&4&0\end{bmatrix}\to B=\begin{bmatrix} 1&1&0&0\\\\ 1&1&1&0\end{bmatrix}\to C=\begin{bmatrix} 0.225&0.610&0&0\\\\ 0.089&0.242&0.657&0\end{bmatrix} \end{equation} A= 12230400 →B= 11110100 →C= 0.2250.0890.6100.24200.65700

2. python

python 复制代码
import torch
from torch import nn
from torch.nn import functional as F

torch.set_printoptions(precision=3, sci_mode=False)


class MatrixNoneZero2OnesLike(object):
    def __init__(self, in_matrix):
        self.in_matrix = in_matrix
        self._result = torch.zeros_like(self.in_matrix)

    @property
    def result(self):
        my_result = torch.zeros_like(self.in_matrix)
        my_result_bool = self.in_matrix.to(torch.bool)
        self._result = my_result.masked_fill(my_result_bool, 1)
        return self._result


class LossMaskedMatrix(object):
    def __init__(self, src_matrix):
        self.src_matrix = src_matrix.to(torch.float)
        self.nonzero = MatrixNoneZero2OnesLike(self.src_matrix)
        self.nonzero_matrix = self.nonzero.result
        self._loss_matrix = torch.zeros_like(self.src_matrix)

    @property
    def loss_matrix(self):
        my_soft_matrix = F.softmax(self.src_matrix, dim=-1)
        my_loss_matrix = my_soft_matrix * self.nonzero_matrix
        print(f"*" * 50)
        print(f"src_matrix=\n{self.src_matrix}")
        print(f"nonzero_matrix=\n{self.nonzero_matrix}")
        print(f"loss_matrix=\n{my_loss_matrix}")
        print(f"*" * 50)
        self._loss_matrix = my_loss_matrix

        return self._loss_matrix


if __name__ == "__main__":
    in_matrix = torch.tensor([[1, 2, 0, 0], [2, 3, 4, 0]]).to(torch.float)
    test_loss_matrix = LossMaskedMatrix(in_matrix)
    result = test_loss_matrix.loss_matrix
  • 结果:
python 复制代码
**************************************************
src_matrix=
tensor([[1., 2., 0., 0.],
        [2., 3., 4., 0.]])
nonzero_matrix=
tensor([[1., 1., 0., 0.],
        [1., 1., 1., 0.]])
loss_matrix=
tensor([[0.225, 0.610, 0.000, 0.000],
        [0.089, 0.242, 0.657, 0.000]])
**************************************************
相关推荐
VidDown7 小时前
24fps 转 25fps 不只是改个数字:帧率转换、PAL/NTSC 与音频补偿
python·网络协议·音视频·视频编解码·视频
死磕音视频9 小时前
让小模型做选择题:限定候选项并读取 logits 概率的入门实践(附 Python 代码)
开发语言·python·大模型·文本分类·transformers
凤山老林9 小时前
Spring Boot 接入国密 SM2/SM3/SM4 的一些实践记录
spring boot·后端·python
pride.li11 小时前
第03章 Python 教程-基础语法:注释与变量
服务器·前端·后端·python·算法·计算机视觉
databook11 小时前
用 Pydantic AI 从零搭建一个能干活的 AI Agent
人工智能·python
康小旺11 小时前
把 markitdown 做成 Windows 桌面版:拖进文档就出 Markdown,附 233MB→64MB 打包裁剪全过程
python
用户0807759078511 小时前
昇腾 NPU 从零部署推理模型 · 完整决策与操作指南
深度学习
AliCloudROS12 小时前
5~7 分钟跑通第一个 Agentic RL 训练:我们把 verl 全链路做成了计算巢一键服务
深度学习·强化学习
启观川12 小时前
数据结构与算法-第 3 章 常用算法-贪心算法
数据结构·笔记·python·算法·贪心算法