跟着李沐学AI:简单损失函数

均方损失L2Loss

特点:当真实值y与预测值y'相差较远时,梯度较大,参数更新较多。当预测值与真实值靠近时,梯度越来越小。

最小绝对值损失L1Loss

特点:当预测值与真实值相差较远时,梯度永远为常数,能带来稳定性的好处,但是0点处不可导,具有不平滑性。

Huber's Robust Loss

当预测值与真实值相差较大时,是绝对值误差。当预测值与真实值相差较小时是平方误差。

相关推荐
人道领域12 小时前
从单兵作战到军团协作:多智能体 AI Agent 开发实战指南
人工智能·agent
硅谷秋水12 小时前
世界动作模型:具身智能的下一前沿
大数据·人工智能·深度学习·计算机视觉·语言模型·机器人
_Oracle12 小时前
机器学习——归纳偏好
人工智能·机器学习
June`12 小时前
并行计算的本质:为何需要它???
人工智能·cuda
kTR2hD1qb12 小时前
近期使用Claude Code + Opus4.7设计开发了一个开源项目:Qianyuan AI Agentic Framework
人工智能·开源
老兵发新帖12 小时前
ECC开源项目分析
人工智能
寻道码路12 小时前
LangChain4j Java AI 应用开发实战(十):Embedding 模型与文本分类 - 语义向量化
java·人工智能·ai·embedding
春生野草12 小时前
大模型--mcp、skill和工作流
人工智能
John_ToDebug12 小时前
Skills 系统深度解析:概念、定位与加载时机
人工智能·经验分享·ai
weixin_4684668513 小时前
图像滤波算法新手实战指南
图像处理·人工智能·算法·计算机视觉·ai·机器视觉·滤波