LossMaskMatrix损失函数掩码矩阵

文章目录

  • [1. 理论](#1. 理论)
  • [2. python](#2. python)

1. 理论

A = [ 1 2 0 0 2 3 4 0 ] → B = [ 1 1 0 0 1 1 1 0 ] → C = [ 0.225 0.610 0 0 0.089 0.242 0.657 0 ] \begin{equation} A=\begin{bmatrix} 1&2&0&0\\\\ 2&3&4&0\end{bmatrix}\to B=\begin{bmatrix} 1&1&0&0\\\\ 1&1&1&0\end{bmatrix}\to C=\begin{bmatrix} 0.225&0.610&0&0\\\\ 0.089&0.242&0.657&0\end{bmatrix} \end{equation} A= 12230400 →B= 11110100 →C= 0.2250.0890.6100.24200.65700

2. python

python 复制代码
import torch
from torch import nn
from torch.nn import functional as F

torch.set_printoptions(precision=3, sci_mode=False)


class MatrixNoneZero2OnesLike(object):
    def __init__(self, in_matrix):
        self.in_matrix = in_matrix
        self._result = torch.zeros_like(self.in_matrix)

    @property
    def result(self):
        my_result = torch.zeros_like(self.in_matrix)
        my_result_bool = self.in_matrix.to(torch.bool)
        self._result = my_result.masked_fill(my_result_bool, 1)
        return self._result


class LossMaskedMatrix(object):
    def __init__(self, src_matrix):
        self.src_matrix = src_matrix.to(torch.float)
        self.nonzero = MatrixNoneZero2OnesLike(self.src_matrix)
        self.nonzero_matrix = self.nonzero.result
        self._loss_matrix = torch.zeros_like(self.src_matrix)

    @property
    def loss_matrix(self):
        my_soft_matrix = F.softmax(self.src_matrix, dim=-1)
        my_loss_matrix = my_soft_matrix * self.nonzero_matrix
        print(f"*" * 50)
        print(f"src_matrix=\n{self.src_matrix}")
        print(f"nonzero_matrix=\n{self.nonzero_matrix}")
        print(f"loss_matrix=\n{my_loss_matrix}")
        print(f"*" * 50)
        self._loss_matrix = my_loss_matrix

        return self._loss_matrix


if __name__ == "__main__":
    in_matrix = torch.tensor([[1, 2, 0, 0], [2, 3, 4, 0]]).to(torch.float)
    test_loss_matrix = LossMaskedMatrix(in_matrix)
    result = test_loss_matrix.loss_matrix
  • 结果:
python 复制代码
**************************************************
src_matrix=
tensor([[1., 2., 0., 0.],
        [2., 3., 4., 0.]])
nonzero_matrix=
tensor([[1., 1., 0., 0.],
        [1., 1., 1., 0.]])
loss_matrix=
tensor([[0.225, 0.610, 0.000, 0.000],
        [0.089, 0.242, 0.657, 0.000]])
**************************************************
相关推荐
孟健10 小时前
Karpathy 用 200 行纯 Python 从零实现 GPT:代码逐行解析
python
码路飞12 小时前
写了个 AI 聊天页面,被 5 种流式格式折腾了一整天 😭
javascript·python
曲幽14 小时前
FastAPI压力测试实战:Locust模拟真实用户并发及优化建议
python·fastapi·web·locust·asyncio·test·uvicorn·workers
敏编程19 小时前
一天一个Python库:jsonschema - JSON 数据验证利器
python
前端付豪19 小时前
LangChain记忆:通过Memory记住上次的对话细节
人工智能·python·langchain
程序员打怪兽19 小时前
详解Visual Transformer (ViT)网络模型
深度学习
databook19 小时前
ManimCE v0.20.1 发布:LaTeX 渲染修复与动画稳定性提升
python·动效
花酒锄作田1 天前
使用 pkgutil 实现动态插件系统
python
前端付豪1 天前
LangChain链 写一篇完美推文?用SequencialChain链接不同的组件
人工智能·python·langchain
曲幽1 天前
FastAPI实战:打造本地文生图接口,ollama+diffusers让AI绘画更听话
python·fastapi·web·cors·diffusers·lcm·ollama·dreamshaper8·txt2img