跟着李沐学AI:简单损失函数

均方损失L2Loss

特点:当真实值y与预测值y'相差较远时,梯度较大,参数更新较多。当预测值与真实值靠近时,梯度越来越小。

最小绝对值损失L1Loss

特点:当预测值与真实值相差较远时,梯度永远为常数,能带来稳定性的好处,但是0点处不可导,具有不平滑性。

Huber's Robust Loss

当预测值与真实值相差较大时,是绝对值误差。当预测值与真实值相差较小时是平方误差。

相关推荐
Microsoft Word15 分钟前
零代码落地Rokid AI Glasses应用:个性化推荐旅游智能体搭建指南
人工智能·旅游
2603_9547083123 分钟前
交直流混合微电网架构:拓扑优化与功率交互设计
人工智能·分布式·物联网·架构·系统架构·能源
悬镜安全26 分钟前
“Vibe Coding”时代的安全边界:悬镜问境AIST如何护航Agent开发全流程?
人工智能
147API34 分钟前
多模型 fallback 怎么设计?一个可落地的简化架构
人工智能·架构·大模型api
哥布林学者1 小时前
深度学习进阶(十) RoI Align
机器学习·ai
数字供应链安全产品选型1 小时前
2026 AI安全趋势展望:AI原生安全将成为企业刚需
大数据·人工智能
ToddyBear1 小时前
深入Anthropic Claude AI的记忆模块的设计思想和架构
人工智能·架构
数据门徒1 小时前
神经网络核心概念 全景梳理与关系图谱
人工智能·深度学习·神经网络
程序员爱德华1 小时前
2026 计算机视觉研究方向
人工智能·计算机视觉
jedi-knight1 小时前
深入浅入 AI Agent:基于 Python 与 ReAct 模式的自主智能体实现
人工智能·python