机器学习 : 训练过程

文章目录

    • 概要
    • 流程
      • [1 . 前向传播](#1 . 前向传播)
      • [2 . 计算损失](#2 . 计算损失)
      • [3 . 后向传播](#3 . 后向传播)
      • [4 . 梯度下降](#4 . 梯度下降)
    • 技术名词解释
    • 小结

【全文大纲】 : https://blog.csdn.net/Engineer_LU/article/details/135149485


概要

主要思想拟合数据

流程

1 . 前向传播

y = func * (wx+b)

2 . 计算损失

y - Y

3 . 后向传播

根据链式法则往前推

4 . 梯度下降

新参数 = 旧参数 - 学习率 * 偏导

技术名词解释

  • 梯度下降 :通过迭代可以找到局部极小值
  • 学习率 :每次训练的跨越步长
  • 偏导 :由于多元函数,所以对其中变量求偏导来给梯度下降算法运算
  • 链式法则 : 求导偏导中的一种链式规律, 通过一层偏导数可以解出相邻偏导

小结

复制代码
机器学习训练过程原理如上,具体还得算力加持多样本训练得出预期模型

技术交流QQ群 : 745662457

群内专注问题答疑,技术研究

相关推荐
Juicedata9 分钟前
JuiceFS v1.3-Beta2:集成 Apache Ranger,实现更精细化的权限控制
运维·人工智能·ai
Work(沉淀版)2 小时前
DAY 40
人工智能·深度学习·机器学习
蓦然回首却已人去楼空3 小时前
Build a Large Language Model (From Scratch) 序章
人工智能·语言模型·自然语言处理
CM莫问3 小时前
<论文>(微软)WINA:用于加速大语言模型推理的权重感知神经元激活
人工智能·算法·语言模型·自然语言处理·大模型·推理加速
拾忆-eleven3 小时前
NLP学习路线图(二十六):自注意力机制
人工智能·深度学习
MYH5164 小时前
在NLP文本处理中,将字符映射到阿拉伯数字(构建词汇表vocab)的核心目的和意义
人工智能·深度学习·自然语言处理
要努力啊啊啊4 小时前
KV Cache:大语言模型推理加速的核心机制详解
人工智能·语言模型·自然语言处理
mzlogin6 小时前
DIY|Mac 搭建 ESP-IDF 开发环境及编译小智 AI
人工智能
归去_来兮6 小时前
知识图谱技术概述
大数据·人工智能·知识图谱
就是有点傻6 小时前
VM图像处理之图像二值化
图像处理·人工智能·计算机视觉