DIN模型和SIM模型原理与实践

文章目录

1.DIN模型

原理

  • 计算用户Last N向量的加权平均
  • 权重是候选物品与Last N物品的相似度

缺点

  • 注意力层的计算量正比于n(用户行为序列的长度)
  • 只能记录最近的几百个物品,否则计算量太大
  • 只关心短期兴趣,会遗忘长期兴趣

2.SIM模型

对长期兴趣建模

原理

  • 对用户长期行为记录,n大小可以是几千
  • 对于每个候选物品,在用户Last N记录中快速查找,找到k个相似物品
  • 把Last N变成TopK,然后输入注意力层
  • 计算量从n降到k

算法步骤

1.查找

2.注意力机制

对比DIN,user侧的LastN交互记录 被换成了上一步查找到的TopK交互记录



参考文献

王树森推荐系统公开课-SIM模型
SIM论文
DIN论文

相关推荐
盼小辉丶42 分钟前
Transformer实战(11)——从零开始构建GPT模型
gpt·深度学习·transformer
计算机sci论文精选10 小时前
CVPR2025敲门砖丨机器人结合多模态+时空Transformer直冲高分,让你的论文不再灌水
人工智能·科技·深度学习·机器人·transformer·cvpr
华清远见成都中心11 小时前
基于深度学习的异常检测算法在时间序列数据中的应用
人工智能·深度学习·算法
一车小面包12 小时前
机器学习中数据集的划分难点及实现
人工智能·深度学习·机器学习
Blossom.11815 小时前
把大模型当“温度计”——基于 LLM 的分布式系统异常根因定位实战
人工智能·python·深度学习·机器学习·自然语言处理·分类·bert
Learn Forever16 小时前
【AI-ModelScope/bert-base-uncase】模型训练及使用
人工智能·深度学习·bert
F_D_Z16 小时前
Encoder-Decoder Model编码器-解码器模型
python·深度学习·机器学习
暴龙胡乱写博客18 小时前
深度学习 --- 迁移学习以及onnx推理
人工智能·深度学习·迁移学习
AscendKing18 小时前
快速部署一个鉴黄服务
python·深度学习·机器学习·鉴黄
roman_日积跬步-终至千里1 天前
【深度学习】深度学习的四个核心步骤:从房价预测看机器学习本质
人工智能·深度学习·机器学习