跟着李沐学AI:简单损失函数

均方损失L2Loss

特点:当真实值y与预测值y'相差较远时,梯度较大,参数更新较多。当预测值与真实值靠近时,梯度越来越小。

最小绝对值损失L1Loss

特点:当预测值与真实值相差较远时,梯度永远为常数,能带来稳定性的好处,但是0点处不可导,具有不平滑性。

Huber's Robust Loss

当预测值与真实值相差较大时,是绝对值误差。当预测值与真实值相差较小时是平方误差。

相关推荐
在繁华处3 分钟前
轻棋局(一):项目总览与架构设计
人工智能·windows
TechubNews37 分钟前
稳定币下一战:不是谁发币,而是谁掌握结算通道
人工智能·web3·区块链
火山引擎开发者社区42 分钟前
钛投标基于火山引擎 ArkClaw 构建招投标垂直智能服务生态
人工智能
NashSKY1 小时前
EM 算法完整推导与本质剖析
算法·机器学习·概率论
deephub1 小时前
Agent = Model + Harness:模型决定上限Harness 决定下限
人工智能·大语言模型·agent·harness
GalenZhang8881 小时前
Hermes Agent v0.14.0:AI Agent 基建时代正式到来
人工智能·hermes
俊哥V1 小时前
每日 AI 研究简报 · 2026-05-17
人工智能·ai
johnrui1 小时前
RAG系统“入口”和“出口”的进化
人工智能
cyyt1 小时前
深度学习周报(5.11~5.17)
人工智能·深度学习