机器学习中的数学(PartⅡ)——线性代数:2.2矩阵

概述

本节内容也相对简单,首先介绍了矩阵的定义 ,矩阵的表示方法 ;然后介绍了矩阵的加法 和乘法 ,与标量的乘法 ,以及一些矩阵相关算数运算的性质 ,包括满足结合律、交换律;矩阵的逆 和转置;最后又回顾了如何使用矩阵简约地表示线性方程组。


矩阵的定义和表示

这部分比较简单,直接贴原文:

但是这里有一个表示方法,就是一个m×n的矩阵可以用一个mn长度的长向量表示,如图2.4所示。

有一类特殊的矩阵------单位阵,是方阵,且主对角线元素全为1,其余元素均为0。


矩阵加法和乘法

加法 就是对应元素相加,乘法不再赘述,高中知识点。

需要说明的是:

  • 矩阵乘法的表示形式为,需要显式地写出中间的符号(但后续书中表示矩阵乘法好像都省略了。。。);
  • 矩阵乘法不是对应元素相乘,而对应元素相乘通常出现在编程语言中,被称为哈达玛积(Hadamard product)。

标量与矩阵的乘法

标量与矩阵相乘就是标量与矩阵中的每个元素相乘。有如下性质:


矩阵算数运算的性质

  • 结合律: 可以把和看作是一个函数,是输入,结合律可以看作是复合函数。
  • 分配律:
  • 与单位阵的乘法:

逆和转置

逆矩阵,定义直接贴图:

注意,此处和都是方阵。

但并非所有方阵都有逆矩阵 ,如果对于一个方阵,不存在逆,则称为正则 (regular)/可逆 (invertible)/非奇异(nonsingular)矩阵,否则称为奇异(singular)/不可逆(noninvertible)矩阵。

如何判断一个矩阵是否可逆呢?可以通过计算其行列式(后续内容)来判断,矩阵行列式不为0则可逆。


转置,简单说就是把一个矩阵的行变成列,行列维度互换。


逆和转置的重要特性


对阵矩阵

对于矩阵而言,如果,则是对称矩阵。

注意:

  • 对阵矩阵必定是方阵;
  • 两个对称矩阵的和总是对称矩阵,但乘积得到的矩阵通常不是对称矩阵;
  • 如果一个矩阵可逆,则其转置也可逆,有定义如下:

表示线性方程组

可使用矩阵简洁地表示线性方程组。在上述例子中,缩放矩阵第一列,缩放矩阵第二列,缩放矩阵的第三列。可进一步表示为。


总结

相关推荐
罗西的思考1 小时前
【轻量化复刻大模型 / KIMI K3】Muon 优化器及 训练系统
人工智能·算法·机器学习
Asher11253 小时前
电池数据整理复盘:从 MAT 文件到充电曲线
机器学习
龙腾AI白云4 小时前
具身智能的空间导航与未知环境探索
大数据·数据库·人工智能·机器学习·知识图谱
汤姆宝库6 小时前
RoPE旋转位置编码的实现与长上下文外推
python·深度学习·机器学习
回眸&啤酒鸭8 小时前
【回眸】Hy4 模型效果展示与能力评测大纲
大数据·人工智能·机器学习
AI小怪兽8 小时前
你的视觉基础模型会说“植物语“吗?面向目标检测的视觉基础模型植物语法
人工智能·深度学习·机器学习
峯5808 小时前
机器学习05,用 scikit-learn 做加州房价预测的完整入门工程
人工智能·机器学习·scikit-learn
伞伞悦读9 小时前
【第86期】分类指标与错误成本对照的实验与排查
大数据·人工智能·机器学习
AI源码10 小时前
基于机器学习的优衣库销售预测与决策系统
人工智能·机器学习
Be for thing1 天前
Pytorch【12】transforms进阶|图像数据增强实战,提升模型泛化能力
人工智能·pytorch·机器学习