跟着李沐学AI:简单损失函数

均方损失L2Loss

特点:当真实值y与预测值y'相差较远时,梯度较大,参数更新较多。当预测值与真实值靠近时,梯度越来越小。

最小绝对值损失L1Loss

特点:当预测值与真实值相差较远时,梯度永远为常数,能带来稳定性的好处,但是0点处不可导,具有不平滑性。

Huber's Robust Loss

当预测值与真实值相差较大时,是绝对值误差。当预测值与真实值相差较小时是平方误差。

相关推荐
NON-JUDGMENTAL7 分钟前
指令微调(Instruction Tuning)
人工智能·深度学习·机器学习
Funny_AI_LAB10 分钟前
深度解析Andrej Karpathy访谈:关于AI智能体、AGI、强化学习与大模型的十年远见
人工智能·计算机视觉·ai·agi
互联科技报15 分钟前
AI赋能企业办公:文多多AiPPT以技术创新破解行业痛点
人工智能
番石榴AI19 分钟前
视频转ppt/pdf V2.0版(新增转为可编辑PPT功能)
人工智能·pdf·powerpoint
c0d1ng29 分钟前
自建督学习——BERT(第二十二周周报)
人工智能·学习·bert
云和数据.ChenGuang30 分钟前
SyntaxError: Non-UTF-8 code starting
人工智能·python·numpy
FreeCode1 小时前
LangChain1.0智能体开发:结构化输出
人工智能·langchain·agent
私域实战笔记1 小时前
企业微信SCRM怎么选?工具适配与落地实操指南
人工智能·数据挖掘·企业微信·scrm·企业微信scrm
私域实战笔记1 小时前
企业微信SCRM工具该如何选择?从需求匹配出发的筛选思路
大数据·人工智能·企业微信·scrm·企业微信scrm
微盛企微增长小知识1 小时前
SCRM工具测评:助力企业微信私域运营的核心功能解析
大数据·人工智能·企业微信