PyTorch概述(五)---LINEAR

  • torch.nn.Linear
python 复制代码
torch.nn.Linear(in_features,out_features,bias=True,device=None,dtype=None)
  • 对输入的数据应用一个线性变换:
  • 该模块支持TensorFLoat32类型的数据;
  • 在某些ROCm设备上,使用float16类型的数据输入时,该模块在反向传播中使用不同的精度;

参数

  • in_features(int)---每一个输入样本数据的大小;
  • out_features(int)---每一个输出样本的大小;
  • bias(bool)---如果设置为Flase,该层将不学习一个可加合的偏置,默认为True;

形状

  • Input:(*,Hin)---这里的*意味着任何维度包括空,Hin=in_features;
  • OUtput(*,Hout)---这里除了最后一个维度之外,所有的形状同输入一样,Hout=out_features;

变量

  • weight(torch.Tensor)---形状为(out_features,in_features)的可学习的模块权重,值从初始化,这里;
  • bias---形状为(out_features)的可学习的偏置模块,如果设置为True,值从初始化,这里;

实例

python 复制代码
import torch
import torch.nn as nn

m=nn.Linear(20,30)
input=torch.randn(128,20)
output=m(input)
print(output.size())#torch.size([128,30])
相关推荐
IT大白鼠1 小时前
当 AI 开始自动化渗透:FBI ARTEX 警报的防守对策
运维·人工智能·自动化
进击的丸子1 小时前
1126B的Demo实操——虹软ArcFace SDK(RV1126BP ARM64 V5.0)交叉编译与运行指南
人工智能·程序员·代码规范
独隅2 小时前
Cann-Samples 实战应用与场景落地指南
人工智能·cann·cann-samples
阿里云大数据AI技术2 小时前
让 Agent 学会诊断 Elasticsearch:一套证据绑定的智能运维方法论
人工智能
十有八七2 小时前
手搓 Agent(四):长点记性——上下文满了怎么办,怎么记住上一次
前端·人工智能·后端
米小虾2 小时前
Jev 拆解:不写字、只判断,一个「决策模型」如何接管 LLM 最贵的那一步
人工智能·agent
数字新视界3 小时前
全国产化动环监控平台在机房智能化管理中的应用探索
大数据·人工智能·数据中心·机房管理·模块化机房
laoyeye8313 小时前
手写 vLLM 分页 KV Cache(三):引用计数、写时复制(CoW)与前缀缓存
人工智能·github
小码哥0683 小时前
AI+能源管理系统如何用于工厂?云捷EMS能源管理系统功能与界面详解
人工智能·能源·能源管理系统·能耗监测·能源管理系统源码·企业能源管理系统·ai+能源管理系统