pytorch tril 用法并导出onnx demo

import torch

import torch.nn as nn

import onnxruntime as ort

import numpy as np

def create_tril_onnx():

class SimpleNet(nn.Module):

def init(self):

super(SimpleNet, self).init()

self.data1 = torch.ones((2,3), dtype=torch.bool)

def forward(self, x):

tril_x = torch.tril(x)

tril_x = tril_x.float()

x1 = x.float()

return tril_x+x1

model = SimpleNet()

data = torch.ones((2,3), dtype=torch.bool)

output = model(data)

print("output:")

print(output)

torch.onnx.export(model, data, "tril.onnx", input_names="input", output_names="output")

def inference_onnx():

model = ort.InferenceSession("tril.onnx", provider="CPUExecutionProvider")

outputs = model.run("output", {"input":np.random.randn(2,3).astype(np.bool_)})

print("outputs:", outputs)

def my_tril():

key_size = 5

data = torch.ones((key_size,key_size), dtype=torch.bool)

for i in range(key_size):

print("\n")

print(i)

print(datai,i+1:)

datai,i+1: = False

print(data)

print(data)

def main():

create_tril_onnx()

inference_onnx()

my_tril()

if name == "main":

main()


导出onnx如下:

相关推荐
wangchen_01 分钟前
PyTorch
人工智能·pytorch·python
code_pgf3 分钟前
SAMLabeler-MNN 项目使用与编译问题解决
人工智能·深度学习·mnn
LoveAmySun9 分钟前
AI智能体如何落地公交营运真实业务
大数据·人工智能
深圳雨林凯AI17 分钟前
雨林凯AI四方连图技术原理拆解:无缝拼接、元素重排与密度变化的实现
人工智能
DS随心转插件18 分钟前
ChatGPT生成的pdf怎么导出 只要加个“AI导出鸭”
人工智能·chatgpt·pdf·deepseek·ai导出鸭
鸽芷咕18 分钟前
5 分钟给 Claude/Cursor 接上“实时联网”能力|Bright Data MCP 实测
人工智能
adinnet202620 分钟前
辅助写作与文档整理,从会议纪要到标书,让智能体当好“笔杆子“
大数据·人工智能
LadiesAndGentlemen22 分钟前
概览篇:世界模型、空间智能与地理空间智能是什么关系
数据库·人工智能·自然语言处理·开源·aigc
卷无止境25 分钟前
Python的contextlib与 FastAPI 中的上下文管理
后端·python·fastapi
fly763278525 分钟前
免费篮球高光剪辑开源工具
人工智能