跟着李沐学AI:简单损失函数

均方损失L2Loss

特点:当真实值y与预测值y'相差较远时,梯度较大,参数更新较多。当预测值与真实值靠近时,梯度越来越小。

最小绝对值损失L1Loss

特点:当预测值与真实值相差较远时,梯度永远为常数,能带来稳定性的好处,但是0点处不可导,具有不平滑性。

Huber's Robust Loss

当预测值与真实值相差较大时,是绝对值误差。当预测值与真实值相差较小时是平方误差。

相关推荐
中微极客2 分钟前
TensorFlow模型量化实战:从精度到延迟的优化指南
人工智能·python·tensorflow
Lambert-Wu3 分钟前
常用激活函数总结
人工智能·深度学习·机器学习
MartinYeung510 分钟前
[论文学习]PrivacyLens:评估语言模型在行动中的隐私规范意识
人工智能·学习·语言模型
ForDreamMusk10 分钟前
批量归一化
人工智能·算法·机器学习
牧濑红莉18 分钟前
零基础认识大语言模型(LLM)工作原理(2.Token 到底是什么?)
人工智能·语言模型·chatgpt
AImoon11.124 分钟前
客易云关注“人工智能+”行动深化,智能经济新形态写入政府工作报告
人工智能
IT_陈寒31 分钟前
Redis的KEYS命令把我搞崩溃了,改用SCAN才活过来
前端·人工智能·后端
Earth explosion36 分钟前
大规模向量库的索引选型与查询性能调优:Milvus 实战指南
人工智能·milvus·ai智能体
2601_955759621 小时前
code0 gemini-2.5-pro 企业实战:数据分析团队怎样更快产出报告
大数据·人工智能·数据分析
Ivanqhz1 小时前
刚体的自由度
人工智能·算法