论文笔记: MOGRIFIER LSTM

2020 ICLR

  • 修改传统LSTM
    • 当前输入和隐藏状态充分交互,从而获得更佳的上下文相关表达

1 Mogrifier LSTM

  • LSTM的输入X和隐藏状态H是完全独立的

  • ------>论文提出了Mogrifier LSTM

      • i=0的时候,就是传统LSTM的输入和hidden state
      • i为奇数的时候,动输入x
      • i为偶数的时候,动隐藏状态h

2 实验

相关推荐
Curious*2 天前
意识障碍研究--论文阅读3
论文阅读
Rocky Ding*2 天前
FLUX 3 Image Klein 技术解析:5.6B 生成器、Flow Map 蒸馏与 ComfyUI 可控编辑
论文阅读·人工智能·深度学习·机器学习·aigc·flux·ai-native
a puppy slide 葱2 天前
ENAS | 基于参数共享的高效神经网络架构搜索
论文阅读·人工智能·深度学习·神经网络·机器学习·计算机视觉·神经网络架构搜索
waiting&fighting2 天前
《中国银发经济发展报告2024》总结
论文阅读
m4Rk_2 天前
【论文阅读】Agent 记忆机制(103):Dynamic Coding Memory——记忆为何让 Agent 更可靠,却可能更平庸
论文阅读·人工智能·学习·开源·github
m4Rk_3 天前
【论文阅读】Agent 记忆机制(102):UMA——用多个未来问题端到端训练一份共享记忆
论文阅读·人工智能·学习·开源·github
辰辰观影4 天前
户外无信号内存小怎么缓存看视频?省内存教程分享
论文阅读·经验分享
Rocky Ding*5 天前
DeepSeek-Bot技术拆解:持久化Agent团队如何管理记忆、上下文与协作成本
论文阅读·人工智能·深度学习·机器学习·aigc·ai-native·智能体
嫂子开门我是_我哥6 天前
GPT辅助大数据类科研感悟
论文阅读·gpt·论文笔记
m4Rk_6 天前
【论文阅读】Agent 记忆机制(99):PrisMem——从整体分数搜索走向能力驱动的记忆自进化
论文阅读·人工智能·学习·开源·github