机器学习-神经网络-深度学习

神经网络原理图

仿射变换和激活函数的使用

不同层级之间使用不同的激活函数

仿射变换:wx+b

激活函数:构造非线性关系

整体流程

前向传播 → 计算损失 → 反向传播(引入梯度下降) → 更新参数 → 再次前向传播

参数说明

深度学习

多层神经网络

pytorch实现深度学习

线性回归案例

步骤(86集)

1.构建数据

2.构建模型

3.定义损失函数和优化器(这里用于反向传播,计算损失和,梯度下降更新参数)

4.模型训练--->前向传播--->计算损失--->反向传播--->更新参数--->梯度清零

wb参数初始化

xavier和kaiming初始化:缓解梯度消失和梯度爆炸问题

激活函数适用层级

回归问题输出层:不需要激活函数

分类问题的输出层:Sigmoid、Softmax

隐藏层常用激活函数:Tanh、ReLU

隐藏层=全连接层(仿射层,权重w和偏置b)+激活函数

优化方法,防止过拟合

随机失活dropout

层类型

自定义神经网络模型,方式一

1.初始化隐藏层和参数

2.定义前向传播,参数传递给隐藏层和激活函数

3.调用模型输出

sequential定义神经网络模型,applay初始化,方式二

applay传递一个函数

查看参数和模型结构

1.查看参数

2.查看模型结构

输入维度,x数量

模型训练工作流程

循环这个流程

房价预测,完整流程

1.特征工程

读取数据

去除无关列

划分特征和目标

划分训练集和测试集

按照特赠数据类型划分成数值型和类别型

数值型和类别型的数据标准化等处理

构建为tensor数据集

2.创建模型

定义层级结构

3.定义损失函数

4.模型的训练和测试

模型训练

(1)初始化权重偏执等参数相关操作

(2)定义优化器

(3)前向传播

(4)计算损失

(5)反向传播

(6)优化器更新参数

(7)梯度清零

模型测试

只进行前向传播相关操作

相关推荐
老金带你玩AI16 分钟前
GPT-6.2更强更便宜了,为什么还有人骂?
人工智能
CyrusYiVPP29 分钟前
实测 uv 0.13.7:同一套包,pip 装 94 秒,它只用 19 秒
人工智能·python
泯泷38 分钟前
OpenClaw 退潮背后,是 AI 圈“技术自嗨”的终结
人工智能·chatgpt·llm
罗西的思考1 小时前
【轻量化复刻大模型 / KIMI K3】Muon 优化器及 训练系统
人工智能·算法·机器学习
屿华AI1 小时前
AUTOSAR 实战-诊断工具 | 用 Claude Code 开发诊断测试工具:AI 协作开发实践
人工智能·测试工具
程序员韩星1 小时前
OpenAI 兼容接口返回 404,先查请求地址,再查模型名
前端·人工智能·http
Cosolar1 小时前
2026 年 Java AI Agent 生态全景盘点:50+ Java 开源项目的分类、实测与选型判断
人工智能·架构·agent
花椒技术2 小时前
从“实时生成游戏”出发,我们用 AI 做了四次游戏开发尝试
人工智能·aigc·游戏开发
其实防守也摸鱼2 小时前
用 Claude Code 重构遗留系统:从评估到落地的完整指南
前端·网络·人工智能·chrome·安全·重构
泯泷2 小时前
当"孤独的开发者"成为常态,AI正在悄悄杀死那个我们熟悉的互联网
人工智能·chatgpt·llm