PyTorch概述(五)---LINEAR

  • torch.nn.Linear
python 复制代码
torch.nn.Linear(in_features,out_features,bias=True,device=None,dtype=None)
  • 对输入的数据应用一个线性变换:
  • 该模块支持TensorFLoat32类型的数据;
  • 在某些ROCm设备上,使用float16类型的数据输入时,该模块在反向传播中使用不同的精度;

参数

  • in_features(int)---每一个输入样本数据的大小;
  • out_features(int)---每一个输出样本的大小;
  • bias(bool)---如果设置为Flase,该层将不学习一个可加合的偏置,默认为True;

形状

  • Input:(*,Hin)---这里的*意味着任何维度包括空,Hin=in_features;
  • OUtput(*,Hout)---这里除了最后一个维度之外,所有的形状同输入一样,Hout=out_features;

变量

  • weight(torch.Tensor)---形状为(out_features,in_features)的可学习的模块权重,值从初始化,这里;
  • bias---形状为(out_features)的可学习的偏置模块,如果设置为True,值从初始化,这里;

实例

python 复制代码
import torch
import torch.nn as nn

m=nn.Linear(20,30)
input=torch.randn(128,20)
output=m(input)
print(output.size())#torch.size([128,30])
相关推荐
伞伞悦读几秒前
【第92期】逻辑回归的分数概率与阈值的实验与排查
人工智能·python·深度学习·机器学习
71777742 分钟前
互联网企业研发平台推荐:从工具堆叠到一体化协同的选型逻辑
人工智能·gitee
立青.1 小时前
AI大模型术语
人工智能
土豆12503 小时前
你只说要什么,它负责拆活交付:任务编排插件上手指南
人工智能·llm
GoldenSpider.AI5 小时前
讲透 Claude Code 的 Code Mode:原理、流程、用法与 24 轮实测
人工智能·ai编程·claude code
oak隔壁找我5 小时前
一款运行在 DSH(DeepSeek Harness)中的工作区文件管理插件
人工智能
江屿风5 小时前
AI Agent架构全解析:从规划到记忆的智能跃迁
人工智能·笔记·架构·agent·c/s·mcp工作流
ZONGYUAN-ROOT5 小时前
【API配额】多源 LLM API 配额池化实战:轮换调度、变化量监控、故障自愈一套方案(Python 完整实现)
人工智能
syso_稻草人5 小时前
qwen-image-2.1 高清放大拆解:Qwen21LatentUpscale 潜空间 2x + denoise 0.35 修细节,12 组场景实测
人工智能·stable diffusion·prompt·comfyui·qwen-image2.1