PyTorch概述(五)---LINEAR

  • torch.nn.Linear
python 复制代码
torch.nn.Linear(in_features,out_features,bias=True,device=None,dtype=None)
  • 对输入的数据应用一个线性变换:
  • 该模块支持TensorFLoat32类型的数据;
  • 在某些ROCm设备上,使用float16类型的数据输入时,该模块在反向传播中使用不同的精度;

参数

  • in_features(int)---每一个输入样本数据的大小;
  • out_features(int)---每一个输出样本的大小;
  • bias(bool)---如果设置为Flase,该层将不学习一个可加合的偏置,默认为True;

形状

  • Input:(*,Hin)---这里的*意味着任何维度包括空,Hin=in_features;
  • OUtput(*,Hout)---这里除了最后一个维度之外,所有的形状同输入一样,Hout=out_features;

变量

  • weight(torch.Tensor)---形状为(out_features,in_features)的可学习的模块权重,值从初始化,这里;
  • bias---形状为(out_features)的可学习的偏置模块,如果设置为True,值从初始化,这里;

实例

python 复制代码
import torch
import torch.nn as nn

m=nn.Linear(20,30)
input=torch.randn(128,20)
output=m(input)
print(output.size())#torch.size([128,30])
相关推荐
Forget the Dream14 分钟前
Spring AI 2.0 系列(二):第一个 ChatClient——从注入到一次完整调用
java·人工智能·spring boot·ai·springai
郝学胜-神的一滴1 小时前
Effective Python 条款35:用类封装替代生成器异常注入
开发语言·人工智能·python·金融·pandas·scikit-learn·matplotlib
火山引擎开发者社区1 小时前
豆包工作,3 个月,800 万,20 亿
人工智能
Chuck.li1 小时前
AI 长篇创作工具选型:工作流对照与自测清单
人工智能·大模型·ai写作·网文作者·ai网文·豆包写作
aleimu1 小时前
Windows 11 右键打开 Cmder 2.0:从找不到菜单到默认使用 Cmder
前端·人工智能·后端
SwanArc技术笔记2 小时前
读技术文档,先用哪个 AI?模型指南筛选与 GPT-6.2 Astra 实操
人工智能
深海鱼在掘金2 小时前
深入浅出RAG——第21章:回顾与展望
人工智能
羲云网络2 小时前
GPT Image 2.6 GIF 交付排障:上线后为什么只剩第一帧?
图像处理·人工智能·前端开发·gif
安爹前沿AI2 小时前
Seedance 有个文档里没写的参数:开了码率涨 3.9 倍,费用一分没多
人工智能
深海鱼在掘金2 小时前
深入浅出RAG——第20章:端到端实战:企业级知识库问答系统
人工智能