attention

机器学习之心1 天前
attention·多变量时间序列预测·tcn-lstm·dbo-tcn-lstm
SCI一区 | Matlab实现DBO-TCN-LSTM-Attention多变量时间序列预测1.【SCI一区级】Matlab实现DBO-TCN-LSTM-Attention多变量时间序列预测(程序可以作为SCI一区级论文代码支撑);
长安er4 天前
人工智能·自然语言处理·nlp·attention·论文复现·self-attention
自然语言处理课程论文:《Attention is all you need》复现与解读目录1.背景介绍1.1 文献介绍1.2 研究背景1.3 知识概述1.3.1 机器翻译1.3.2 attention机制与self-attention机制
机器学习之心22 天前
attention·分位数回归·卷积双向门控循环单元·注意力机制时序区间预测·qrcnn-bigru
区间预测 | Matlab实现QRCNN-BiGRU-Attention分位数回归卷积双向门控循环单元注意力机制时序区间预测1.Matlab实现QRCNN-BiGRU-Attention分位数回归卷积双向门控循环单元注意力机制时序区间预测;
365JHWZGo1 个月前
论文阅读·attention·个性化·对话生成·adaptive·persona
《论文阅读》具有人格自适应注意的个性化对话生成 AAAI 2023亲身阅读感受分享,细节画图解释,再也不用担心看不懂论文啦~ 无抄袭,无复制,纯手工敲击键盘~今天为大家带来的是《Personalized Dialogue Generation with Persona-Adaptive Attention》
机器学习之心1 个月前
matlab·attention·分位数回归·卷积双向长短期记忆网络·qrcnn-bilstm·注意力机制时序区间预测
区间预测 | Matlab实现QRCNN-BiLSTM-Attention分位数回归卷积双向长短期记忆网络注意力机制时序区间预测1.Matlab实现基于QRCNN-BiLSTM-Attention分位数回归卷积双向长短期记忆神经网络融合注意力机制的时间序列区间预测模型;
机器学习之心1 个月前
attention·多变量时间序列预测·时间卷积长短期记忆神经网络·粒子群算法优化·融合注意力机制·pso-tcn-lstm
SCI一区 | Matlab实现PSO-TCN-LSTM-Attention粒子群算法优化时间卷积长短期记忆神经网络融合注意力机制多变量时间序列预测1.基于PSO-TCN-LSTM-Attention粒子群算法优化时间卷积长短期记忆神经网络融合注意力机制多变量时间序列预测,要求Matlab2023版以上,自注意力机制,一键单头注意力机制替换成多头注意力机制; 2.输入多个特征,输出单个变量,考虑历史特征的影响,多变量时间序列预测; 3.data为数据集,main.m为主程序,运行即可,所有文件放在一个文件夹; 4.命令窗口输出R2、MSE、MAE、MAPE和RMSE多指标评价; 5.优化学习率,神经元个数,注意力机制的键值, 正则化参数。
Luna_M2 个月前
人工智能·深度学习·大模型·attention
大模型面试常考知识点2首先LLM推理的过程是一个自回归的过程,也就是说前i次的token会作为第i+1次的预测数据送入模型,拿到第i+1次的推理token。
机器学习之心2 个月前
attention·多变量时间序列预测·mutilhead·bes-cnn-gru
SCI一区级 | Matlab实现BES-CNN-GRU-Mutilhead-Attention多变量时间序列预测1.Matlab实现BES-CNN-GRU-Mutilhead-Attention秃鹰算法优化卷积门控循环单元融合多头注意力机制多变量时间序列预测,要求Matlab2023版以上; 2.输入多个特征,输出单个变量,考虑历史特征的影响,多变量时间序列预测; 3.data为数据集,main.m为主程序,运行即可,所有文件放在一个文件夹; 4.命令窗口输出R2、MSE、MAE、MAPE和RMSE多指标评价; 5.算法优化学习率,神经元个数,注意力机制的键值, 卷积核个数。
机器学习之心3 个月前
attention·卷积门控循环单元·鱼鹰算法优化·注意力机制多变量回归预测·ooa-cnn-gru
高创新 | Matlab实现OOA-CNN-GRU-Attention鱼鹰算法优化卷积门控循环单元注意力机制多变量回归预测1.Matlab实现OOA-CNN-GRU-Attention鱼鹰算法优化卷积门控循环单元注意力机制多变量回归预测; 2.运行环境为Matlab2021b; 3.data为数据集,excel数据,输入多个特征,输出单个变量,多变量回归预测; main.m为主程序,运行即可,所有文件放在一个文件夹; 4.命令窗口输出R2、MSE、MAE、MAPE多指标评价; 5.鱼鹰算法优化学习率,隐藏层节点,正则化系数; 6.注意力机制模块: SEBlock(Squeeze-and-Excitation Block)是一
机器学习之心3 个月前
多输入单输出回归预测·attention·bitcn-bigru·info·向量加权
独家原创 | Matlab实现INFO-BiTCN-BiGRU-Attention多输入单输出回归预测1.Matlab实现INFO-BiTCN-BiGRU-Attention向量加权算法优化双向时间卷积双向门控循环单元融合注意力机制多变量回归预测(完整源码和数据),优化学习率,BiGRU的神经元个数,滤波器个数, 正则化参数; 2.输入多个特征,输出单个变量,回归预测,自注意力机制层,运行环境matlab2023及以上; 3.命令窗口输出R2、MAE、MAPE、 RMSE多指标评价; 4.代码特点:参数化编程、参数可方便更改、代码编程思路清晰、注释明细。
机器学习之心3 个月前
attention·负荷预测·tcn-lstm·时间序列多步预测
负荷预测 | Matlab基于TCN-LSTM-Attention单变量时间序列多步预测1.负荷预测 | Matlab基于TCN-LSTM-Attention单变量时间序列多步预测; 2.单变量时间序列数据集,采用前12个时刻预测未来96个时刻的数据; 3.excel数据方便替换,运行环境matlab2023及以上,展示最后96个时间步的预测对比图,评价指标MAE、MAPE、RMSE、MSE、R2; 4.程序语言为matlab,程序可出预测效果图,迭代优化图,相关分析图; 5.代码特点:参数化编程、参数可方便更改、代码编程思路清晰、注释明细。
简简单单做算法3 个月前
人工智能·cnn·gru·attention·时间序列回归预测
基于PSO优化的CNN-GRU-Attention的时间序列回归预测matlab仿真目录1.算法运行效果图预览2.算法运行软件版本3.部分核心程序4.算法理论概述4.1卷积神经网络(CNN)在时间序列中的应用
机器学习之心3 个月前
attention·tcn-bigru·时间卷积双向门控循环单元·info-tcn-bigru·向量加权算法优化·注意力机制多变量时间序列预测
SCI一区 | Matlab实现INFO-TCN-BiGRU-Attention向量加权算法优化时间卷积双向门控循环单元注意力机制多变量时间序列预测1.基于INFO-TCN-BiGRU-Attention向量加权算法优化时间卷积双向门控循环单元融合注意力机制多变量时间序列预测,要求Matlab2023版以上,自注意力机制,一键单头注意力机制替换成多头注意力机制; 2.输入多个特征,输出单个变量,考虑历史特征的影响,多变量时间序列预测; 3.data为数据集,main.m为主程序,运行即可,所有文件放在一个文件夹; 4.命令窗口输出R2、MSE、MAE、MAPE和RMSE多指标评价; 5.优化学习率,神经元个数,注意力机制的键值, 正则化参数。
住在天上的云3 个月前
人工智能·rnn·深度学习·attention·注意力机制·驭风计划·fine tune
【深度学习】图像自然语言描述生成相关知识点:RNN、Attention 机制、图像和文本数据的处理本次案例将使用深度学习技术来完成图像自然语言描述生成任务,输入一张图片,模型会给出关于图片内容的语言描述。本案例使用 coco2014 数据集[1],包含 82,783 张训练图片,40,504 张验证图片,40,775 张测试图片。案例使用 Andrej Karpathy[2]提供的数据集划分方式和图片标注信息,案例已提供数据处理的脚本,只需下载数据集和划分方式即可。
机器学习之心3 个月前
attention·负荷预测·tcn-bigru-att·单输入单输出·时间序列多步预测
负荷预测 | Matlab基于TCN-BiGRU-Attention单输入单输出时间序列多步预测1.Matlab基于TCN-BiGRU-Attention单输入单输出时间序列多步预测; 2.单变量时间序列数据集,采用前12个时刻预测未来96个时刻的数据; 3.excel数据方便替换,运行环境matlab2023及以上,展示最后96个时间步的预测对比图,评价指标MAE、MAPE、RMSE、MSE、R2; 4.程序语言为matlab,程序可出预测效果图,迭代优化图,相关分析图; 5.代码特点:参数化编程、参数可方便更改、代码编程思路清晰、注释明细。
简简单单做算法3 个月前
人工智能·cnn·lstm·attention·时间序列回归预测·pso优化
基于PSO优化的CNN-LSTM-Attention的时间序列回归预测matlab仿真目录1.算法运行效果图预览2.算法运行软件版本3.部分核心程序4.算法理论概述4.1卷积神经网络(CNN)在时间序列中的应用
机器学习之心3 个月前
attention·cnn-gru·多特征分类预测·卷积神经网络-门控循环单元·mutilhead·融合多头注意力机制
分类预测 | Matlab实现CNN-GRU-Mutilhead-Attention卷积神经网络-门控循环单元融合多头注意力机制多特征分类预测1.Matlab实现CNN-GRU-Mutilhead-Attention卷积神经网络-门控循环单元融合多头注意力机制多特征分类预测。多头自注意力层 (Multihead-Self-Attention):Multihead-Self-Attention多头注意力机制是一种用于模型关注输入序列中不同位置相关性的机制。它通过计算每个位置与其他位置之间的注意力权重,进而对输入序列进行加权求和。注意力能够帮助模型在处理序列数据时,对不同位置的信息进行适当的加权,从而更好地捕捉序列中的关键信息。 2.数据输入15个
机器学习之心3 个月前
attention·蜣螂算法优化·bitcn-bigru·dbo-bitcn-bigru·双向时间卷积双向门控循环单元·注意力机制多变量回归预测
C刊级 | Matlab实现DBO-BiTCN-BiGRU-Attention蜣螂算法优化双向时间卷积双向门控循环单元融合注意力机制多变量回归预测1.Matlab实现DBO-BiTCN-BiGRU-Attention蜣螂算法优化双向时间卷积双向门控循环单元融合注意力机制多变量回归预测(完整源码和数据),优化学习率,BiGRU的神经元个数,滤波器个数, 正则化参数; 2.输入多个特征,输出单个变量,回归预测,自注意力机制层,运行环境matlab2023及以上; 3.命令窗口输出R2、MAE、MAPE、 RMSE多指标评价; 4.代码特点:参数化编程、参数可方便更改、代码编程思路清晰、注释明细。
机器学习之心3 个月前
attention·vmd-tcn-bigru·tcn-bigru-matt·mutil-head
EI级!高创新原创未发表!VMD-TCN-BiGRU-MATT变分模态分解卷积神经网络双向门控循环单元融合多头注意力机制多变量时间序列预测(Matlab)1.Matlab实现VMD-TCN-BiGRU-MATT变分模态分解结合卷积神经网络双向门控循环单元融合多头注意力机制多变量时间序列预测; 2.运行环境为Matlab2023及以上; 3.输入多个特征,输出单个变量,考虑历史特征的影响,多变量时间序列预测; 4.data为数据集,main1-VMD.m、main2-VMD-TCN-BiGRU-MATT.m为主程序,运行即可,所有文件放在一个文件夹; 5.命令窗口输出R2、MSE、MAE、MAPE和RMSE多指标评价; VMD-TCN-BiGRU-MATT模
机器学习之心3 个月前
attention·时间卷积双向门控循环单元·多变量时间序列预测·粒子群算法优化·pso-tcn-bigru
SCI一区 | Matlab实现PSO-TCN-BiGRU-Attention粒子群算法优化时间卷积双向门控循环单元融合注意力机制多变量时间序列预测1.基于PSO-TCN-BiGRU-Attention粒子群算法优化时间卷积双向门控循环单元融合注意力机制多变量时间序列预测,要求Matlab2023版以上,自注意力机制,一键单头注意力机制替换成多头注意力机制; 2.输入多个特征,输出单个变量,考虑历史特征的影响,多变量时间序列预测; 3.data为数据集,main.m为主程序,运行即可,所有文件放在一个文件夹; 4.命令窗口输出R2、MSE、MAE、MAPE和RMSE多指标评价; 5.优化学习率,神经元个数,注意力机制的键值, 正则化参数。