深度学习pytorch——2D函数优化实例(持续更新)

课程:课时46 优化问题实战_哔哩哔哩_bilibili

这就是我们今天要求的2D函数:

下图是使用python绘制出来的图像:

但是可以看出有4个最小值,但是还是不够直观,还是看课程里面给的比较好,蓝色是最低点位置:
课时46 优化问题实战_哔哩哔哩_bilibili

实际求的最小值:

代码示例:

python 复制代码
import torch
import numpy as np
from matplotlib import pyplot as plt
from mpl_toolkits.mplot3d import Axes3D

# 定义函数
def himmelblau(x):
    return (x[0]**2 + x[1] - 11)**2 + (x[0] + x[1]**2 -7)**2

# 生成X、Y数据列表
x = np.arange(-6,6,0.1)
y = np.arange(-6,6,0.1)
print('x.shape:',x.shape,';y.shape:',y.shape)
X, Y = np.meshgrid(x,y)             # 将X、Y进行网格化,将一维数组变为二维数组
print('X.map:',X.shape,';Y.map:',Y.shape)
Z = himmelblau([X,Y])                   # 计算Z

fig = plt.figure('himmelblau')          # 创建himmelblau图
ax = fig.add_subplot(projection='3d')   # 获得当前极轴

ax.plot_surface(X,Y,Z)                  # 绘制三维平面
ax.view_init(60,-30)                    # 确定视图的角度
ax.set_xlabel('x')
ax.set_ylabel('y')
plt.show()

# 2D函数优化
x = torch.tensor([4.,0.],requires_grad=True)        # 初始化x值,requires_grad=True代表需要梯度信息
                                                          # 可以尝试改变初始化x的值,会得到不一样的结果,因此初始化值是十分重要的
optimizer = torch.optim.Adam([x],lr=1e-3)         # 初始化优化器
for step in range(20000):
    pred = himmelblau(x)
    optimizer.zero_grad()                                 # 当网络参量进行反馈时,梯度是被积累的而不是被替换掉,这里即每次将梯度设置为0
    pred.backward()                                       # 调出x、y的梯度信息
    optimizer.step()                                      # 根据优化信息更新优化的值x[0] x[1]

    if step%2000 == 0:                                    # 每2000个打印一组值
        print('step {}:x={},f(x)={}'.format(step,x.tolist(),pred.item()))
相关推荐
小众AI1 小时前
AI-on-the-edge-device - 将“旧”设备接入智能世界
人工智能·开源·ai编程
舟寒、1 小时前
【论文分享】Ultra-AV: 一个规范化自动驾驶汽车纵向轨迹数据集
人工智能·自动驾驶·汽车
梦云澜4 小时前
论文阅读(十二):全基因组关联研究中生物通路的图形建模
论文阅读·人工智能·深度学习
远洋录5 小时前
构建一个数据分析Agent:提升分析效率的实践
人工智能·ai·ai agent
IT古董6 小时前
【深度学习】常见模型-Transformer模型
人工智能·深度学习·transformer
沐雪架构师7 小时前
AI大模型开发原理篇-2:语言模型雏形之词袋模型
人工智能·语言模型·自然语言处理
摸鱼仙人~7 小时前
Attention Free Transformer (AFT)-2020论文笔记
论文阅读·深度学习·transformer
python算法(魔法师版)7 小时前
深度学习深度解析:从基础到前沿
人工智能·深度学习
kakaZhui8 小时前
【llm对话系统】大模型源码分析之 LLaMA 位置编码 RoPE
人工智能·深度学习·chatgpt·aigc·llama
struggle20259 小时前
一个开源 GenBI AI 本地代理(确保本地数据安全),使数据驱动型团队能够与其数据进行互动,生成文本到 SQL、图表、电子表格、报告和 BI
人工智能·深度学习·目标检测·语言模型·自然语言处理·数据挖掘·集成学习