跟着李沐学AI:简单损失函数

均方损失L2Loss

特点:当真实值y与预测值y'相差较远时,梯度较大,参数更新较多。当预测值与真实值靠近时,梯度越来越小。

最小绝对值损失L1Loss

特点:当预测值与真实值相差较远时,梯度永远为常数,能带来稳定性的好处,但是0点处不可导,具有不平滑性。

Huber's Robust Loss

当预测值与真实值相差较大时,是绝对值误差。当预测值与真实值相差较小时是平方误差。

相关推荐
郝学胜-神的一滴1 分钟前
Pytorch张量拼接秘籍:cat与stack的深度解析与实战
人工智能·pytorch·python·深度学习·程序人生·算法·机器学习
共绩算力3 分钟前
共绩算力如何定义弹性算力:从资源整合到成本优化的全面解析
人工智能·共绩算力
Flandern11113 分钟前
Go程序员学习AI大模型项目实战:从环境管理到核心架构抽象
人工智能·python·学习·ai·golang
多年小白4 分钟前
谷歌Gemma 4开源模型实战解析:31B参数登顶全球前三,Apache 2.0全开放
人工智能·科技·开源·知识图谱
爱代码的小黄人6 分钟前
10分钟讲清楚 Prompt、Agent、MCP 是什么
人工智能·prompt
李子焱9 分钟前
第一节:AI Agent与Skills的本质重构
人工智能·重构·skills
海兰10 分钟前
【分析思考】资管行业科技智能化转型
人工智能·科技·银行系统
Thomas.Sir11 分钟前
第十二章:RAG知识库开发之【RAG的预检索和后检索:核心优化策略与实践】
人工智能·python·ai·rag·预检索·后检索
yunhuibin12 分钟前
yolov3学习之训练原理
人工智能·深度学习·神经网络·yolo
做cv的小昊13 分钟前
【TJU】应用统计学——第四周作业(2.3 C-R不等式、2.4区间估计)
c语言·人工智能·算法·机器学习·数学建模·r语言·概率论