门控机制

Lee_jerome14 天前
深度学习·numpy·lstm·参数量·sigmoid·tanh·门控机制
python神经网络编程入门(二十)——RNN LSTM 数学原理与结构拆解上一篇用"传送带 + 收费站"的比喻建立了 LSTM 的整体直觉:细胞状态 ctc_tct 是高速公路,三个门(遗忘门、输入门、输出门)是收费站。R-N-N 在 30 步后梯度归零,而 L-S-T-M 在 50 步后还剩 7.7%——差距一目了然。
flying_13145 个月前
人工智能·深度学习·神经网络·图神经网络·消息传递·门控机制·mpnn
图神经网络分享系列-MPNN(Neural Message Passing for Quantum Chemistry)(二)目录三、相关研究四、QM9数据集性质分类五、MPNN变体5.1 消息函数5.2 虚拟图元素5.3 读出函数
flying_13147 个月前
人工智能·深度学习·神经网络·图神经网络·ggnn·门控机制·图特征学习
图神经网络分享系列-GGNN(GATED GRAPH SEQUENCE NEURAL NETWORKS)(三)目录七、相关研究八、讨论GG-NN模型学到了什么?逻辑推理与模型学习的对比任务编码与背景知识实验结果与局限性
flying_13147 个月前
人工智能·深度学习·神经网络·图神经网络·ggnn·门控机制·图特征学习
图神经网络分享系列-GGNN(GATED GRAPH SEQUENCE NEURAL NETWORKS)(一)目录摘要一、介绍主要贡献图特征学习的两种场景实验与应用二、图神经网络概述符号定义与关键概念GNN的两阶段计算
nju_spy10 个月前
人工智能·lora·大模型·混合精度·混合专家模型 moe·densemlp·门控机制
南京大学LLM开发基础(四)MoE, LoRA, 数的精度 + MLP层实验https://njudeepengine.github.io/llm-course-lecture/2025/lecture8.html#1
我是有底线的