【漫话机器学习系列】039.点积(dot product)

点积(Dot Product)

点积是线性代数中的一种基本运算,用于两个向量的操作。它是将两个向量按分量相乘并求和的结果,用于衡量两个向量在同一方向上的相似性。


点积的定义

给定两个相同维度的向量 ,它们的点积定义为:

其中:

  • 是两个向量对应位置的分量。

结果是一个标量值。


几何意义

点积也可以从几何的角度定义为:

其中:

  • 是向量 的模(长度)。
  • 之间的夹角。

通过点积可以判断:

  1. :向量夹角小于90°,方向相同。
  2. :向量正交,互相垂直。
  3. :向量夹角大于90°,方向相反。

性质

  1. 交换律

  2. 分配律

  3. 结合标量运算

    其中 k 是标量。

  4. 自身点积


应用场景

  1. 向量投影: 点积用于计算一个向量在另一个向量上的投影:

  2. 相似性计算: 在机器学习中,用点积计算向量(如文本特征向量、图像特征向量)的相似性。

  3. 能量或功的计算: 力学中,点积用于计算力和位移的乘积(功)。

  4. 线性代数与神经网络: 神经网络中的全连接层核心运算是点积,用于权重和输入的线性组合。


Python实现

1. 基础实现
python 复制代码
import numpy as np

# 定义两个向量
a = np.array([1, 2, 3])
b = np.array([4, 5, 6])

# 点积计算
dot_product = np.dot(a, b)
print(f"点积结果: {dot_product}")

运行结果

Matlab 复制代码
点积结果: 32
2. 几何应用
python 复制代码
# 计算点积和夹角
import numpy as np

a = np.array([1, 2])
b = np.array([3, 4])

# 点积
dot = np.dot(a, b)

# 向量模
norm_a = np.linalg.norm(a)
norm_b = np.linalg.norm(b)

# 夹角
cos_theta = dot / (norm_a * norm_b)
theta = np.arccos(cos_theta)

print(f"点积: {dot}")
print(f"夹角(弧度): {theta}")
print(f"夹角(度数): {np.degrees(theta)}")

运行结果

Matlab 复制代码
点积: 11
夹角(弧度): 0.17985349979247847
夹角(度数): 10.304846468766044

总结

点积是一种简单而强大的运算,广泛应用于几何、物理和数据科学中。它不仅能描述向量间的相似性,还可以延伸到矩阵运算及其在机器学习中的核心应用。理解点积的几何意义和性质有助于解决复杂的实际问题。

相关推荐
西西弗Sisyphus6 分钟前
如果让计算机理解人类语言- Word2Vec(Word to Vector,2013)
人工智能·word·word2vec
前端双越老师30 分钟前
30 行代码 langChain.js 开发你的第一个 Agent
人工智能·node.js·agent
LucianaiB1 小时前
Chatbox➕知识库➕Mcp = 机器学习私人语音助手
机器学习·知识库·mcp·chatbox
东坡肘子1 小时前
高温与奇怪的天象 | 肘子的 Swift 周报 #092
人工智能·swiftui·swift
KaneLogger1 小时前
视频转文字,别再反复拖进度条了
前端·javascript·人工智能
度假的小鱼1 小时前
从 “人工编码“ 到 “AI 协同“:大模型如何重塑软件开发的效率与范式
人工智能
zm-v-159304339862 小时前
ArcGIS 水文分析升级:基于深度学习的流域洪水演进过程模拟
人工智能·深度学习·arcgis
拓端研究室3 小时前
视频讲解|核密度估计朴素贝叶斯:业务数据分类—从理论到实践
人工智能·分类·数据挖掘
灵智工坊LingzhiAI3 小时前
人体坐姿检测系统项目教程(YOLO11+PyTorch+可视化)
人工智能·pytorch·python
昨日之日20063 小时前
Video Background Remover V3版 - AI视频一键抠像/视频换背景 支持50系显卡 一键整合包下载
人工智能·音视频