跟着李沐学AI:简单损失函数

均方损失L2Loss

特点:当真实值y与预测值y'相差较远时,梯度较大,参数更新较多。当预测值与真实值靠近时,梯度越来越小。

最小绝对值损失L1Loss

特点:当预测值与真实值相差较远时,梯度永远为常数,能带来稳定性的好处,但是0点处不可导,具有不平滑性。

Huber's Robust Loss

当预测值与真实值相差较大时,是绝对值误差。当预测值与真实值相差较小时是平方误差。

相关推荐
赛逸会展s1 分钟前
2027赛逸展机器人展新闻发布会在京举行
人工智能·机器人
月光船幽幽3 分钟前
真实即粗糙,光滑是伪造
人工智能·python
智购科技自动售货机工厂6 分钟前
2026自动售货机语音支付模块集成:从声纹识别到支付闭环的工程实践~YH
大数据·服务器·网络·数据库·人工智能
一次旅行7 分钟前
Attention机制从数学到工程:拆解缩放点积+多头注意力|附可运行PyTorch实现与踩坑指南
人工智能·pytorch·python
不是株15 分钟前
Agent Memory 架构
人工智能·agent
richard_first22 分钟前
Transformer 与大语言模型:第10章 Residual (残差连接)
人工智能·深度学习·机器学习·transformer
zhongerzixunshi24 分钟前
深耕绿色建材认证 赋能建筑行业低碳高质量发展
人工智能
Wang's Blog24 分钟前
Vibe Coding一人即团队系列10: 在 Claude 与 Codex 中接入 DeepSeek 模型
人工智能
lisw0525 分钟前
计算与科学哲学(Philosophy of Computing and Science)
java·开发语言·人工智能
天天进步201527 分钟前
Pixelle-Video 源码解析 #10:多模型适配:GPT、通义千问、DeepSeek、Ollama 如何统一调用?
人工智能·gpt