深度学习——基础知识

  深度学习的重点在于优化,其中很重要的步骤在于如何调参,会涉及到一些微积分等数学知识。不同于以往接触到的数值运算,深度(机器)学习都是关于张量Tensor(向量)的计算,Python中最常用的包就是Numpy,其次张量类支持调用包可自动微分。

一、基础操作运算

1.1 导入torch

  先导入torch,虽然是pytorch版本的深度学习,但是代码中使用torch,而不是pytorch.

1.2 arange创建行向量

1.3 通过张量的shape属性来访问张量的形状或维度

1.4 张量的大小

  张量中元素的总数,即shape属性中所有元素的乘积。

一维向量的shape和size是相同的数值

1.5 改变张量的形状reshape

  要想改变一个张量的形状而不改变元素数量和元素值,可以调用reshape函数。

在reshape时,不需要特别指定每个维度的参数,在知道元素总数的前提下,知道宽度(高度)后,高度(宽度)会被自动计算得出,不需要自己手动计算,可以通过-1来调用此自动计算出形状。

1.6 初始化矩阵

1.6.1 将张量中所有元素设置为0

1.6.2 将张量中所有元素设置为1

1.6.3 标准高斯分布:均值为0,标准差为1,随机初始化参数的值

1.6.4 自定义张量

  可以通过包含数值的python列表(嵌套列表)来为所需张量中的每个元素赋予确定值。

二、张量运算符

2.1 按元素计算

2.2 张量连接

dim=0对行进行拼接;dim=1对列进行拼接。

2.3 逻辑运算符

2.3 求和

三、广播机制

  形状相同的张量按元素操作,在某些情况下,即使形状不同,可以通过调用广播机制来执行按元素操作。

  广播机制在大多数情况下,沿着数组中长度为1的轴进行广播。

  a和b分别是31和1 2的矩阵,如果让它们相加,它们的形状不匹配,我们将两个矩阵广播为一个更大的3*2矩阵,矩阵a将复制列,矩阵b将复制行,然后按元素相加。
a + b = 0 0 1 1 2 2 + 0 1 0 1 0 1 = 0 1 1 2 2 3 a+b= \begin{bmatrix} 0 & 0 \\ 1 & 1 \\ 2 &2 \end{bmatrix}+\begin{bmatrix} 0 & 1 \\ 0 & 1 \\ 0 & 1 \end{bmatrix} = \begin{bmatrix} 0 & 1 \\ 1 & 2 \\ 2 & 3 \end{bmatrix} a+b= 012012 + 000111 = 012123

四、转换为其他Python对象

  torch张量和numpy数组可以互相转化.

  要将大小为1的张量转换为python标量,可以用item函数或者python的内置函数。

相关推荐
zzq779716 分钟前
别把大模型 API Key 写进 APK:移动 AI 应用接口防盗刷实践
android·人工智能·安全·app加固·御盾安全·安卓加固
机器之心22 分钟前
Kimi K3竟是GPT-2的22580倍,博主「肝」48小时发现:七年进化大模型不只是参数暴涨
人工智能·openai
Larcher34 分钟前
从状态快照到惰性初始化:读懂 React useState 的三个关键场景
javascript·人工智能·后端
菜鸟‍36 分钟前
【论文学习】MICCAI 2024 || SGSeg:通过自引导机制实现胸部X光片语言引导分割的无文本推理
人工智能·深度学习·学习
ddshub_cc41 分钟前
2026 AI API 定价对比:GPT-5.6 vs Claude Fable 5 vs Opus 5,哪款模型最划算?
人工智能·gpt·ai·chatgpt
菜鸟‍42 分钟前
【论文学习】arxiv 2024 || RoSIS:基于鲁棒框架重新审视文本提示式手术器械分割
人工智能·学习·计算机视觉
带娃的IT创业者1 小时前
中国开源大模型策略:正在赢得全球AI竞赛
人工智能·开源·qwen·开源大模型·deepseek·ai竞赛·开源策略
lichenyang4531 小时前
从 Vite 空项目到 AIGC 图片工作台:我如何打通生图、任务轮询、生成库与 Canvas 动态特效
前端·人工智能
黄啊码1 小时前
【黄啊码】省下美工钱,抢到搜索位,这个电商作图工具真香
人工智能
Freak嵌入式1 小时前
MCU 低功耗模式解析:时钟门控、电源门控、深度休眠
人工智能·python·单片机·嵌入式硬件·开源·依赖倒置原则·micropython