跟着李沐学AI:简单损失函数

均方损失L2Loss

特点:当真实值y与预测值y'相差较远时,梯度较大,参数更新较多。当预测值与真实值靠近时,梯度越来越小。

最小绝对值损失L1Loss

特点:当预测值与真实值相差较远时,梯度永远为常数,能带来稳定性的好处,但是0点处不可导,具有不平滑性。

Huber's Robust Loss

当预测值与真实值相差较大时,是绝对值误差。当预测值与真实值相差较小时是平方误差。

相关推荐
源创力环形导轨几秒前
源创力环形导轨系统技术白皮书:高精度闭环运动控制的工业引擎
大数据·人工智能·自动化·环形导轨
前端摸鱼匠1 分钟前
【AI大模型春招面试题21】什么是Transformer的“预归一化”与“后归一化”?两者的差异及影响?
人工智能·深度学习·面试·大模型·transformer·求职招聘
做个文艺程序员7 分钟前
Hermes Agent 深度解析:会自我进化的开源 AI 智能体
人工智能·开源
黎阳之光7 分钟前
非视距·自愈·广覆盖|黎阳之光1.4&5.8GHz宽带自愈网无线基站,重构工业级无线通信
大数据·人工智能·算法·安全·数字孪生
weixin_416660079 分钟前
告别格式烦恼:如何让AI内容转换到Word后不乱码
人工智能·word·数学公式
byte轻骑兵12 分钟前
Apache IoTDB 技术特性与大数据时序数据库选型实践
大数据·数据库·人工智能·物联网·时序数据库
天地沧海15 分钟前
企业 AI 应用完整技术架构图:模型、RAG、Agent、工作流怎么放在一起
人工智能
咚咚王者16 分钟前
人工智能之知识蒸馏 第二章 知识蒸馏的核心原理与核心架构
人工智能·架构
人道领域18 分钟前
2026年3月大模型全景深度解析:国产登顶、百万上下文落地、Agent工业化,AI实用时代全面来临[特殊字符]
大数据·人工智能·chatgpt·大模型
User_芊芊君子18 分钟前
2026 Python+AI入门|0基础速通,吃透热门轻量化玩法
开发语言·人工智能·python