【最优化方法】最速下降法

给出点

x = [1,4,5,8,12]
y = [7,9,15,14,27]

要找出温度和冰淇淋销量之间的关系,通过线性回归来拟合求出属性和结果之间的线性关系。

如果直接把这些点连起来,是吃力不讨好的,因为如果有新数据进来大概率不在这条线上,这个行为也叫做过拟合。

对于这种明显有相关关系的数据,直接用一条直线去拟合这些数据,一次函数y=kx+b,k、b确定了直线也就确定了。找最合适的直线的过程就叫线性回归。

评判标准

找出每个真实数据点到直线的距离。

列个表看看:

定义损失函数 f(k,b)=z

python 复制代码
import numpy as np
import matplotlib.pyplot as plt
from mpl_toolkits.mplot3d import Axes3D

x = np.array([1, 4, 5, 8, 12])
y_true = np.array([7, 9, 15, 14, 27])

def model(x, k, b):
    return k * x + b
def mse_loss(y_true, y_pred):
    return np.mean((y_true - y_pred) ** 2)

# 生成参数 k 和 b 的取值范围
k_values = np.linspace(0, 3, 100)  
b_values = np.linspace(-5, 5, 100) 

# 创建网格
K, B = np.meshgrid(k_values, b_values)

# 计算每个 (k, b) 组合下的损失值
Z = np.zeros_like(K)
for i in range(len(k_values)):
    for j in range(len(b_values)):
        y_pred = model(x, K[i, j], B[i, j])
        Z[i, j] = mse_loss(y_true, y_pred)

# 绘制三维损失函数曲面图
fig = plt.figure(figsize=(10, 7))
ax = fig.add_subplot(111, projection='3d')

ax.plot_surface(K, B, Z, cmap='viridis')

ax.set_xlabel('Slope (k)')
ax.set_ylabel('Intercept (b)')
ax.set_zlabel('MSE Loss')
ax.set_title('3D Loss Function Surface')

plt.show()

问题就转化成了找到图像的谷底。

对于一次函数:

高等数学下中对于梯度的介绍:

相关推荐
学习前端的小z15 分钟前
【AIGC】如何通过ChatGPT轻松制作个性化GPTs应用
人工智能·chatgpt·aigc
埃菲尔铁塔_CV算法43 分钟前
人工智能图像算法:开启视觉新时代的钥匙
人工智能·算法
EasyCVR43 分钟前
EHOME视频平台EasyCVR视频融合平台使用OBS进行RTMP推流,WebRTC播放出现抖动、卡顿如何解决?
人工智能·算法·ffmpeg·音视频·webrtc·监控视频接入
MarkHD1 小时前
第十一天 线性代数基础
线性代数·决策树·机器学习
打羽毛球吗️1 小时前
机器学习中的两种主要思路:数据驱动与模型驱动
人工智能·机器学习
好喜欢吃红柚子1 小时前
万字长文解读空间、通道注意力机制机制和超详细代码逐行分析(SE,CBAM,SGE,CA,ECA,TA)
人工智能·pytorch·python·计算机视觉·cnn
小馒头学python1 小时前
机器学习是什么?AIGC又是什么?机器学习与AIGC未来科技的双引擎
人工智能·python·机器学习
神奇夜光杯1 小时前
Python酷库之旅-第三方库Pandas(202)
开发语言·人工智能·python·excel·pandas·标准库及第三方库·学习与成长
正义的彬彬侠1 小时前
《XGBoost算法的原理推导》12-14决策树复杂度的正则化项 公式解析
人工智能·决策树·机器学习·集成学习·boosting·xgboost
Debroon2 小时前
RuleAlign 规则对齐框架:将医生的诊断规则形式化并注入模型,无需额外人工标注的自动对齐方法
人工智能