深度学习pytorch——2D函数优化实例(持续更新)

课程:课时46 优化问题实战_哔哩哔哩_bilibili

这就是我们今天要求的2D函数:

下图是使用python绘制出来的图像:

但是可以看出有4个最小值,但是还是不够直观,还是看课程里面给的比较好,蓝色是最低点位置:
课时46 优化问题实战_哔哩哔哩_bilibili

实际求的最小值:

代码示例:

python 复制代码
import torch
import numpy as np
from matplotlib import pyplot as plt
from mpl_toolkits.mplot3d import Axes3D

# 定义函数
def himmelblau(x):
    return (x[0]**2 + x[1] - 11)**2 + (x[0] + x[1]**2 -7)**2

# 生成X、Y数据列表
x = np.arange(-6,6,0.1)
y = np.arange(-6,6,0.1)
print('x.shape:',x.shape,';y.shape:',y.shape)
X, Y = np.meshgrid(x,y)             # 将X、Y进行网格化,将一维数组变为二维数组
print('X.map:',X.shape,';Y.map:',Y.shape)
Z = himmelblau([X,Y])                   # 计算Z

fig = plt.figure('himmelblau')          # 创建himmelblau图
ax = fig.add_subplot(projection='3d')   # 获得当前极轴

ax.plot_surface(X,Y,Z)                  # 绘制三维平面
ax.view_init(60,-30)                    # 确定视图的角度
ax.set_xlabel('x')
ax.set_ylabel('y')
plt.show()

# 2D函数优化
x = torch.tensor([4.,0.],requires_grad=True)        # 初始化x值,requires_grad=True代表需要梯度信息
                                                          # 可以尝试改变初始化x的值,会得到不一样的结果,因此初始化值是十分重要的
optimizer = torch.optim.Adam([x],lr=1e-3)         # 初始化优化器
for step in range(20000):
    pred = himmelblau(x)
    optimizer.zero_grad()                                 # 当网络参量进行反馈时,梯度是被积累的而不是被替换掉,这里即每次将梯度设置为0
    pred.backward()                                       # 调出x、y的梯度信息
    optimizer.step()                                      # 根据优化信息更新优化的值x[0] x[1]

    if step%2000 == 0:                                    # 每2000个打印一组值
        print('step {}:x={},f(x)={}'.format(step,x.tolist(),pred.item()))
相关推荐
不惑_5 分钟前
通俗理解GAN的训练过程
人工智能·神经网络·生成对抗网络
OpenCSG1 小时前
对比分析:CSGHub vs. Hugging Face:模型管理平台选型对
人工智能·架构·开源
云上凯歌1 小时前
传统老旧系统的“AI 涅槃”:从零构建企业级 Agent 集群实战指南
人工智能
cskywit1 小时前
破解红外“魅影”难题:WMRNet 如何以频率分析与二阶差分重塑小目标检测?
人工智能·深度学习
无名修道院1 小时前
AI大模型应用开发-RAG 基础:向量数据库(FAISS/Milvus)、文本拆分、相似性搜索(“让模型查资料再回答”)
人工智能·向量数据库·rag·ai大模型应用开发
自可乐1 小时前
Milvus向量数据库/RAG基础设施学习教程
数据库·人工智能·python·milvus
旅途中的宽~1 小时前
【深度学习】通过nohup后台运行训练命令后,如何通过日志文件反向查找并终止进程?
linux·深度学习
Loo国昌1 小时前
【大模型应用开发】第二阶段:语义理解应用:文本分类与聚类 (Text Classification & Clustering)
人工智能·分类·聚类
XX風1 小时前
3.2K-means
人工智能·算法·kmeans
feasibility.2 小时前
在OpenCode使用skills搭建基于LLM的dify工作流
人工智能·低代码·docker·ollama·skills·opencode·智能体/工作流