深度学习笔记之线性代数

深度学习笔记之线性代数

一、向量

在数学表示法中,向量通常记为粗体小写的符号(例如,xyz )当向量表示数据集中的样本时,它们的值具有一定的现实意义。例如研究医院患者可能面临的心脏病发作风险,用一个向量表示一个患者,其分量为最近的生命特征、胆固醇水平、每天运动时间等。

可以使用下标来引用向量的任意元素

使用切片访问

向量只是一个数字数组,就像每个数组都有一个长度,向量的长度通常称为向量的维度(dimension)

可以通过调用Python的内置len()函数来访问张量的长度

当张量表示一个向量时,可以通过.shape属性访问向量的长度。对于只有一个轴的张量,形状只有一个元素。

二、矩阵

矩阵将向量从一阶推广到二阶。通常用粗体大写字母表示矩阵(例如X,Y,Z),在代码中表示具有两个轴的张量。

索引访问

求矩阵的转置

判断一个矩阵是否为对称矩阵。即这个矩阵是否等于它的转置矩阵。

三、张量算法的基本性质

两个形状相同的矩阵相加,会在这两个矩阵上执行元素加法

两个矩阵按元素乘法成为Hadamard积

将张量乘以或加上一个标量不会改变张量的形状,其中张量的每个元素都与标量相加或相乘

四、降维

计算向量中元素的和

为了通过求和所有行元素来降维,可以在调用函数时制定axis=0

也可以指定axis=1将通过汇总所有列的元素降维

沿着行和列对矩阵求和,等价于对矩阵的所有元素进行求和

计算任意形状张量的平均值

五、非降维求和

如果我们想沿某个轴计算A元素的累积总和, 比如axis=0(按行计算),可以调用cumsum函数。 此函数不会沿任何轴降低输入张量的维度。

六、点积

七、矩阵-向量积

八、矩阵-矩阵乘法

九、范数


相关推荐
Axis tech7 小时前
MANUS手套为NVIDIA的DreamDojo机器人世界模型提供真实的手部运动数据
人工智能·深度学习·机器学习
大鱼>7 小时前
宠物监控数据安全与隐私保护:端到端加密与合规实践
人工智能·深度学习·算法·iot·宠物
疯狂打码的少年7 小时前
【软件工程】需求工程:需求获取与需求分析
数据库·笔记·软件工程·需求分析
承渊政道8 小时前
【从零开始大模型开发与微调:基于PyTorch与ChatGLM】(从退化问题到信息高速公路:ResNet残差网络实战拆解)
网络·人工智能·pytorch·深度学习·resnet·chatglm·卷积
大鱼>8 小时前
宠物行为识别AI算法详解:从数据采集到模型部署的完整方案
人工智能·深度学习·算法·宠物
Lhappy嘻嘻8 小时前
网络初识|基础入门:局域网广域网、IP 端口、TCP/IP 五层模型与封装解封装全过程
java·开发语言·网络·笔记·网络协议·tcp/ip
LiaoWL1238 小时前
【SpringCloud合集-06】Spring Cloud Gateway网关学习笔记
笔记·学习·spring cloud
AndrewHZ8 小时前
【LLM技术全景】混合精度与分布式训练:训练大模型的工程奥秘
人工智能·分布式·深度学习·算法·ai·语言模型·llm
鱼听禅8 小时前
ubuntu学习笔记-使用ls-ml-toolkit工具识别Label Studio数据数据训练yolo模型
笔记·学习·ubuntu
喜欢就别14 小时前
【Agentic RL / 强化学习 / OPD】OpenClaw-RL 源码阅读笔记 --- (2)--- On-Policy Distillation
人工智能·笔记