深度学习之线性代数预备知识点

|----------------------|---------------------------------------------|-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| 概念 | 定义 | 公式/案例 |
| 标量(Scalar) | 一个单独的数值,表示单一的量。 | 例如:5, 3.14, -2 |
| 向量 (Vector) | 一维数组,表示具有方向和大小的量。 | ,表示三维空间中的向量 |
| 模(Magnitude) | 向量的长度,也称为范数(通常为L2范数)。 | 向量,其模: |
| 范数 (Norm) | 向量的大小,常见范数有L1范数(绝对值之和)和L2范数(欧几里得范数,平方和的开方)。 | L1范数 |
| 单位向量 (Unit Vector) | 模为1的向量,表示纯粹的方向。 | |
| 内积 (点乘) | 两个向量相乘得到的标量,反映两个向量的相似度。 | ,例如 |
| 外积(叉乘) | 两个向量相乘得到的矩阵,表示向量之间的关系。 | ,例如, |
| 矩阵 (Matrix) | 二维数组,表示数据的多维结构,行和列的排列组合。 | ,表示是一个2*2的矩阵 |
| 矩阵转置(Transpose) | 矩阵的行列互换。 | |
| 矩阵乘法(Multiplication) | 矩阵按特定规则进行乘法运算,行向量与列向量的点积。 | |
| 乘法的性质 | 矩阵乘法满足结合律、但不满足交换律。 | 例如,但 |
| 张量 (Tensor) | 高维数组,表示多维数据的结构,扩展了标量、向量和矩阵的概念。 | 例如,一个三阶张量可以表示为,每个A矩阵 |

  • 向量的内积 :在深度学习中,内积用于衡量输入向量与权重向量的相似性。例如,在一个简单的神经元中,输入权重,其输出为,即输入与权重的内积结果。

  • 矩阵乘法 :在神经网络的全连接层中,输入向量通过权重矩阵进行矩阵乘法,从而生成输出。假设输入向量,权重矩阵,输出为y=W×x。

相关推荐
倍利福猎头公司官方账号1 分钟前
大企业HR如何向猎头公司清晰传达AI岗位的技术需求?
人工智能·算法·机器人·求职招聘·业界资讯
阿里云大数据AI技术4 分钟前
淘天集团基于 Milvus 的商品知识库实践——为店铺 AI 导购构建大规模商品知识与 FAQ 检索底座
人工智能
Zzj_tju4 分钟前
智能体该向哪段经验学习?Routed CL 在混合任务中探索记忆分流
人工智能·深度学习·机器学习·语言模型
这个DBA有点耶12 分钟前
1亿条向量内存降95.4%,延迟降80%:金仓AI原生内核真能解决RAG痛点?
数据库·人工智能·开源
AI视频工具指南23 分钟前
怎么用 AI 做节日祝福视频?
人工智能·音视频·节日
归来少年Plus35 分钟前
RAG——让 AI 基于企业知识库回答问题
人工智能
Margrop41 分钟前
话费接进 Home Assistant 报 3006 设备未信任:一次 Agent 拆解电信协议与手搓零云端授权实录
人工智能
william_yangshun42 分钟前
【AI实战】Claude-Code-Game-Studios中文版使用教程:把Claude Code改造成49个Agent的游戏工作室
人工智能·游戏
神鹰手哥_起飞版1 小时前
我用豆包 Seed 做了个 B 站陪看插件:长视频摘要、语音识别和几个工程坑
人工智能
前端小万1 小时前
用"道法术器"重构你和 AI 的协作方式
前端·人工智能·程序员