跟着李沐学AI:简单损失函数

均方损失L2Loss

特点:当真实值y与预测值y'相差较远时,梯度较大,参数更新较多。当预测值与真实值靠近时,梯度越来越小。

最小绝对值损失L1Loss

特点:当预测值与真实值相差较远时,梯度永远为常数,能带来稳定性的好处,但是0点处不可导,具有不平滑性。

Huber's Robust Loss

当预测值与真实值相差较大时,是绝对值误差。当预测值与真实值相差较小时是平方误差。

相关推荐
小二·几秒前
AI工程化实战《五》:私有化部署全栈指南——Qwen/Qwen-VL 本地化落地与生产级运维(万字深度长文)
运维·人工智能
CoderIsArt1 分钟前
类似 Lepton AI 的开源方案全面解析
人工智能·开源
塔能物联运维10 分钟前
设备OAuth2令牌过期致认证失败 后来启用自动刷新+双令牌热备
人工智能
jqpwxt16 分钟前
启点创新游乐场多商户分账管理系统:驱动文旅商业生态革新的数字化引擎
大数据·人工智能·小程序
EchoL、19 分钟前
【论文阅读】HiDDeN:Hiding Data With Deep Networks
论文阅读·笔记·机器学习
八月瓜科技29 分钟前
工业和信息化部国际经济技术合作中心第五党支部与八月瓜科技党支部开展主题党日活动暨联学联建活动
大数据·人工智能·科技·深度学习·机器人·娱乐
阿杰学AI32 分钟前
AI核心知识65——大语言模型之Vibe Coding (简洁且通俗易懂版)
人工智能·ai·语言模型·aigc·ai编程·vibe coding·ai coding
阿杰学AI32 分钟前
AI核心知识64——大语言模型之RLVR (简洁且通俗易懂版)
人工智能·ai·语言模型·自然语言处理·aigc·rlvr·基于可验证奖励的强化学习