课程前言
上一课我们用二阶导数判断一元函数极值，
本节课深挖二阶导数的几何意义：凹凸性与拐点，是理解损失曲面形态、优化器收敛特性的关键。
-
核心判定规则
设函数二阶可导：
f''(x)>0：曲线下凸（凹函数），任意两点连线在曲线上方，全局仅有一个极小值，梯度下降极易收敛；
f''(x)<0：曲线上凸（凸函数），仅有极大值，无法找到最优损失点；
f''(x)=0，且左右两侧二阶导数正负切换 → 该点为拐点，曲线凹凸形态发生翻转。
-
AI大模型对应关系
全局凹损失（MSE）：训练稳定，不存在局部最优；
含拐点的损失曲线：一段凹、一段凸，训练前期快速下降，后期震荡；
拐点代表曲率突变，对应模型训练阶段切换，是调整学习率、正则系数的关键节点。
一、10道二阶导数凹凸性、拐点计算题
题1
f(x)=x^2-2x+5，求凹凸区间、判断有无拐点
解：
f'(x)=2x-2,\quad f''(x)=2
f''(x)=2>0 恒成立
全定义域 (-\infty,+\infty) 下凸，无拐点
AI解读：标准均方误差损失，全程凹曲线，梯度下降无论初始权重在哪，都能平稳收敛至全局最小值，回归任务基础损失。
题2
f(x)=-x^2+4x，凹凸区间与拐点
解：
f'(x)=-2x+4,\quad f''(x)=-2<0
全域上凸，无拐点
AI解读：负二次损失函数，全程只有极大值，不存在最优收敛点，模型无法拟合目标，工程中禁止单独使用此类损失。
题3
f(x)=x^3，求凹凸区间、拐点
解：
f'(x)=3x^2,\quad f''(x)=6x
令 f''(x)=0，得 x=0
x<0,f''<0 上凸；x>0,f''>0 下凸
拐点 (0,0)
AI解读：基础三次损失曲线，拐点左右凹凸完全反转，训练时权重小于0损失冲高，大于0损失下降，极易出现训练震荡。
题4
f(x)=x4-6x2，凹凸区间与拐点
解：
f'(x)=4x^3-12x,\quad f''(x)=12x2-12=12(x2-1)
令 f''(x)=0，x=-1、x=1
x<-1,f''>0 下凸；-1<x<1,f''<0 上凸；x>1,f''>0 下凸
拐点 (-1,-5)、(1,-5)
AI解读：多拐点复合损失，曲线凹凸多次切换，模型训练会出现多段收敛、震荡区间，容易卡在局部极小值。
题5
f(x)=e^x，凹凸性、拐点判断
解：
f'(x)=e^x,\quad f''(x)=e^x>0
全域下凸，无拐点
AI解读：指数激活函数，全程凹曲线，梯度持续增大，深层网络堆叠易梯度爆炸，必须搭配归一化约束。
题6
f(x)=\sin x,\ x\in0,2\\pi，求凹凸区间与拐点
解：
f'(x)=\cos x,\quad f''(x)=-\sin x
令 f''(x)=0，x=0、\pi、2\pi
0<x<\pi,f''<0 上凸；\pi<x<2\pi,f''>0 下凸
拐点 (\pi,0)
AI解读：周期型位置损失，凹凸周期性交替，时序大模型训练损失循环起伏，难以稳定收敛。
题7
f(x)=x\ln x\ (x>0)，凹凸区间、拐点
解：
f'(x)=\ln x+1,\quad f''(x)=\dfrac{1}{x}>0
定义域内恒下凸，无拐点
AI解读：交叉熵损失基础形态，全程凹函数，分类任务训练稳定收敛，是大模型主流损失函数。
题8
f(x)=x3-3x2+2，凹凸区间、拐点坐标
解：
f'(x)=3x^2-6x,\quad f''(x)=6x-6
令 f''(x)=0 \implies x=1
x<1,f''<0 上凸；x>1,f''>0 下凸
拐点 (1,0)
AI解读：分段凹凸损失，拐点左侧训练损失上升，拐点后持续下降，调参时拐点位置是切换学习率的分界点。
题9
f(x)=e{-x2}（高斯函数），凹凸区间、拐点
解：
f'(x)=-2x e{-x2}
f''(x)=(4x2-2)e{-x^2}
令 f''(x)=0 \implies x=\pm\dfrac{\sqrt{2}}{2}
|x|<\dfrac{\sqrt{2}}{2},f''<0 上凸；|x|>\dfrac{\sqrt{2}}{2},f''>0 下凸
拐点 \left(\pm\dfrac{\sqrt{2}}{2},e^{-\frac{1}{2}}\right)
AI解读：高斯权重正则化曲线，中间区域上凸、两侧下凸，对中间权重约束弱、极值权重约束强，用于抑制模型过拟合。
题10 综合压轴
f(x)=x^2 e^x，求凹凸区间、全部拐点
解：
f'(x)=2x ex+x2 ex=(x2+2x)e^x
f''(x)=(x2+4x+2)ex
e^x>0 恒成立，只需令 x^2+4x+2=0
解得 x=-2\pm\sqrt{2}
x<-2-\sqrt{2}，f''>0 下凸；
-2-\sqrt{2}<x<-2+\sqrt{2}，f''<0 上凸；
x>-2+\sqrt{2}，f''>0 下凸
拐点两处：x=-2\pm\sqrt{2} 对应函数坐标
AI解读：权重与指数激活复合损失，存在两处拐点，训练分三段不同收敛特性，是复杂深度网络损失曲面的简化模型。
二、本课总结
- 二阶导数符号决定曲线凹凸，直接决定梯度下降收敛难易；
- 拐点是凹凸形态分界线，代表损失曲面曲率突变，是模型调参关键节点；
- 一元凹凸判定是多元凹凸、海塞矩阵正定/负定判定的底层基础；
- 纯凹损失训练最稳定；带拐点、分段凹凸的损失容易出现震荡、局部最优。
训练大模型时，损失曲线凹凸切换会带来震荡，你一般用什么方法平滑曲线、稳定收敛？欢迎评论区交流！