设计普遍逼近的深度神经网络:一阶优化方法

论文地址:https://ieeexplore.ieee.org/document/10477580

传统的基于优化的神经网络设计方法通常从一个具有显式表示的目标函数出发,采用特定的优化算法进行求解,再将优化迭代格式映射为神经网络架构,例如著名的 LISTA-NN 就是利用 LISTA 算法求解 LASSO 问题所得 [4],这种方法受限于目标函数的显式表达式,可设计得到的网络结构有限。一些研究者尝试通过自定义目标函数,再利用算法展开等方法设计网络结构,但他们也需要如权重绑定等与实际情况可能不符的假设。

论文提出的易于操作的网络架构设计方法从一阶优化算法的更新格式出发,将梯度或邻近点算法写成如下的更新格式:

再将梯度项替换为神经网络中的可学习模块 T,即可得到 L 层神经网络的骨架。

链接

相关推荐
Studying 开龙wu4 小时前
机器学习监督学习实战五:六种算法对声呐回波信号进行分类
学习·算法·机器学习
1296004524 小时前
机器学习的可解释性
人工智能·深度学习·自然语言处理·transformer
MYH5165 小时前
神经元激活函数在神经网络里起着关键作用
人工智能·深度学习·神经网络
尘浮7286 小时前
60天python训练计划----day50
人工智能·python·深度学习
强盛小灵通专卖员7 小时前
基于深度学习RT-DETR算法的盲人障碍物目标检测:提升盲人出行安全的智能化突破
深度学习·算法·目标检测·计算机视觉·rt-detr·小论文·计算机期刊
Nelson_hehe8 小时前
论文解析:一文弄懂ResNet(图像识别分类、目标检测)
深度学习·目标检测·计算机视觉·分类·残差网络·resnet
我不是小upper8 小时前
统计学核心概念与现实应用精解(偏机器学习)
算法·机器学习·统计学
深度之眼8 小时前
贝叶斯深度学习!华科大《Nat. Commun.》发表BNN重大突破!
人工智能·深度学习·神经网络
MYH5168 小时前
深度学习聊天机器人 需要考虑
人工智能·深度学习·机器人
视觉语言导航8 小时前
中南大学无人机智能体的全面评估!BEDI:用于评估无人机上具身智能体的综合性基准测试
人工智能·深度学习·无人机·具身智能