机器学习 : 训练过程

文章目录

    • 概要
    • 流程
      • [1 . 前向传播](#1 . 前向传播)
      • [2 . 计算损失](#2 . 计算损失)
      • [3 . 后向传播](#3 . 后向传播)
      • [4 . 梯度下降](#4 . 梯度下降)
    • 技术名词解释
    • 小结

【全文大纲】 : https://blog.csdn.net/Engineer_LU/article/details/135149485


概要

主要思想拟合数据

流程

1 . 前向传播

y = func * (wx+b)

2 . 计算损失

y - Y

3 . 后向传播

根据链式法则往前推

4 . 梯度下降

新参数 = 旧参数 - 学习率 * 偏导

技术名词解释

  • 梯度下降 :通过迭代可以找到局部极小值
  • 学习率 :每次训练的跨越步长
  • 偏导 :由于多元函数,所以对其中变量求偏导来给梯度下降算法运算
  • 链式法则 : 求导偏导中的一种链式规律, 通过一层偏导数可以解出相邻偏导

小结

复制代码
机器学习训练过程原理如上,具体还得算力加持多样本训练得出预期模型

技术交流QQ群 : 745662457

群内专注问题答疑,技术研究

相关推荐
m0_6038887117 小时前
Scaling Trends for Multi-Hop Contextual Reasoning in Mid-Scale Language Models
人工智能·算法·ai·语言模型·论文速览
飞凌嵌入式17 小时前
解析一下面向教育领域的RV1126B\RK3506B\RK3576开发板
linux·人工智能
congming202017 小时前
AI赋能软考高项论文:140天分层突破法(适配新大纲绩效域)
人工智能
萤丰信息17 小时前
开启园区“生命体”时代——智慧园区系统,定义未来的办公与生活
java·大数据·运维·数据库·人工智能·生活·智慧园区
Toky丶17 小时前
【文献阅读】Pretraining Large Language Models with NVFP4
人工智能·语言模型·自然语言处理
颜值博主17 小时前
新一代大模型范式: Inner Tools
人工智能·ai·语言模型
IT_陈寒17 小时前
Python 3.12 新特性实战:这5个改进让我的开发效率提升40%
前端·人工智能·后端
comli_cn17 小时前
残差链接(Residual Connection)
人工智能·算法
摸鱼仙人~17 小时前
在政务公文场景中落地 RAG + Agent:技术难点与系统化解决方案
人工智能·政务
Aaron158818 小时前
基于VU13P在人工智能高速接口传输上的应用浅析
人工智能·算法·fpga开发·硬件架构·信息与通信·信号处理·基带工程