机器学习中的数学(PartⅡ)——线性代数:2.2矩阵

概述

本节内容也相对简单,首先介绍了矩阵的定义 ,矩阵的表示方法 ;然后介绍了矩阵的加法 和乘法 ,与标量的乘法 ,以及一些矩阵相关算数运算的性质 ,包括满足结合律、交换律;矩阵的逆 和转置;最后又回顾了如何使用矩阵简约地表示线性方程组。


矩阵的定义和表示

这部分比较简单,直接贴原文:

但是这里有一个表示方法,就是一个m×n的矩阵可以用一个mn长度的长向量表示,如图2.4所示。

有一类特殊的矩阵------单位阵,是方阵,且主对角线元素全为1,其余元素均为0。


矩阵加法和乘法

加法 就是对应元素相加,乘法不再赘述,高中知识点。

需要说明的是:

  • 矩阵乘法的表示形式为,需要显式地写出中间的符号(但后续书中表示矩阵乘法好像都省略了。。。);
  • 矩阵乘法不是对应元素相乘,而对应元素相乘通常出现在编程语言中,被称为哈达玛积(Hadamard product)。

标量与矩阵的乘法

标量与矩阵相乘就是标量与矩阵中的每个元素相乘。有如下性质:


矩阵算数运算的性质

  • 结合律: 可以把和看作是一个函数,是输入,结合律可以看作是复合函数。
  • 分配律:
  • 与单位阵的乘法:

逆和转置

逆矩阵,定义直接贴图:

注意,此处和都是方阵。

但并非所有方阵都有逆矩阵 ,如果对于一个方阵,不存在逆,则称为正则 (regular)/可逆 (invertible)/非奇异(nonsingular)矩阵,否则称为奇异(singular)/不可逆(noninvertible)矩阵。

如何判断一个矩阵是否可逆呢?可以通过计算其行列式(后续内容)来判断,矩阵行列式不为0则可逆。


转置,简单说就是把一个矩阵的行变成列,行列维度互换。


逆和转置的重要特性


对阵矩阵

对于矩阵而言,如果,则是对称矩阵。

注意:

  • 对阵矩阵必定是方阵;
  • 两个对称矩阵的和总是对称矩阵,但乘积得到的矩阵通常不是对称矩阵;
  • 如果一个矩阵可逆,则其转置也可逆,有定义如下:

表示线性方程组

可使用矩阵简洁地表示线性方程组。在上述例子中,缩放矩阵第一列,缩放矩阵第二列,缩放矩阵的第三列。可进一步表示为。


总结

相关推荐
小蒋观天下34 分钟前
雷击与浪涌防护:前端SPD选型、接地网误区,接地不当反而引入干扰
深度学习·算法·机器学习
lvwangshu1 小时前
P15569 [COCI 2025/2026 #5] 结构 / Struktura 题解
矩阵·题解·dp·推导题·矩阵加速
阿狸猿2 小时前
MLOps 机器学习流水线架构设计
人工智能·机器学习
方方洛4 小时前
ray教程-18-性能调优与反模式
人工智能·分布式·机器学习
2601_965449084 小时前
AI视频制作:做系列考古视频音色不统一,AI 音色克隆的完整流程
人工智能·机器学习·音视频
fl1768315 小时前
工业玻璃不同形状类别玻璃检测数据集VOC+YOLO格式1012张4类别
人工智能·yolo·机器学习
Rocky Ding*5 小时前
【三年面试五年模拟】2026-10-25 华为大模型算法岗一面面经:13道题解析与算法实现
论文阅读·人工智能·深度学习·机器学习·大模型·aigc·ai-native
七牛开发者6 小时前
TokenGate:端到端可训练的 Token 剪枝机制,让大模型 Prefill 提速 11.3 倍
算法·机器学习·剪枝·长上下文·tokengate
白露与泡影7 小时前
从 GLM 到 GPT,HarnessPro 如何用 RSI 降低 Agent 成本
人工智能·gpt·机器学习
高洁018 小时前
知识图谱:结构化表达实体与关系的知识组织技术
人工智能·python·深度学习·机器学习·迁移学习