偏差与方差,及集成学习这是机器学习中最经典的“误差三角”问题。我们用“打靶”来形象理解:数学分解(回归任务): 模型的期望误差 = 偏差² + 方差 + 不可约误差。 E[(y−f^(x))2]=(E[f^(x)]−f(x))2⏟Bias2+E[(f^(x)−E[f^(x)])2]⏟Variance+σ2 \mathbb{E}[(y - \hat{f}(x))^2] = \underbrace{(\mathbb{E}[\hat{f}(x)] - f(x))^2}_{\text{Bias}^2} + \underbrace{\m