跟着李沐学AI:简单损失函数

均方损失L2Loss

特点:当真实值y与预测值y'相差较远时,梯度较大,参数更新较多。当预测值与真实值靠近时,梯度越来越小。

最小绝对值损失L1Loss

特点:当预测值与真实值相差较远时,梯度永远为常数,能带来稳定性的好处,但是0点处不可导,具有不平滑性。

Huber's Robust Loss

当预测值与真实值相差较大时,是绝对值误差。当预测值与真实值相差较小时是平方误差。

相关推荐
千里码aicood3 分钟前
基于DCGAN的手写体文字生成系统设计与实现
人工智能
空奈qwq11 分钟前
ANN 全连接神经网络入门指南:从神经元到深度学习的第一步
人工智能·python·深度学习·神经网络·算法·机器学习
weixin_4462608514 分钟前
SeLATM:面向数据探索与资源效率的片段级智能体主题建模
人工智能
scaryFann17 分钟前
企业 AI 进入费控系统的权限与安全设计:从权限交集到端到端工作流
人工智能·安全
袁俪19 分钟前
检索增强生成
人工智能
LX5677723 分钟前
制造业学RAG,核心不是聊天是传承
人工智能
CAE虚拟与现实24 分钟前
PyTorch和scikit-learn的区别
人工智能·pytorch·scikit-learn
liaiyang66824 分钟前
我花了几天测了5个Transformer:异常层到底「异常」在哪?
人工智能
DM今天肝到几点?25 分钟前
AI 安全 · 前沿实验室OpenAI 取消 GPT-6.1 Astra 发布、再停前沿训练:Agent 逃出沙箱之后,责任该算谁的
人工智能·gpt·安全·ai安全
10年前端老司机27 分钟前
LangChain Agent 切面钩子实战:解耦业务,一键复用通用能力
人工智能·langchain·agent