【Transformer序列预测】Pytorch中构建Transformer对序列进行预测源代码

Python,Pytorch中构建Transformer进行序列预测源程序。包含所有的源代码和数据,程序能够一键运行。此程序是完整的Transformer,即使用了Encoder、Decoder和Embedding所有模块。源程序是用jupyterLab所写,建议分块运行。也整理了.py格式供PyCharm等运行。

工作是进行序列预测,此示例是使用12个值,来预测1个值。

具体工作如下:

1、加载数据。数据为Excel文件,525行,13列。即525个样本,前12列为数据,第13列为预测值(标签)。原序列长度为12,预测步长为1。为了符合Transformer的输入,将原始的1x12序列强行调整为3x4的格式,即序列长度=3,维度=4。这一步对于Transformer非常重要。依次划分70%、10%、20%作为训练集、验证集和测试集。

2、构建Encoder、Decoder类,进而构建Transformer。用summary显示网络结构。

3、训练,计算Loss。

4、测试,计算测试集R2、MAE、RMSE、MAPE,绘图。

注:程序关键部分都有注释,有基础的话容易替换数据,可替换任意长度数据。可有偿帮忙替换数据。原程序跑不通可远程帮忙调通。

整理不易,价格低廉,唯一渠道为闲鱼售卖,价格19元。近来有许多用户盗版本人程序,私聊后还拒不承认。。。因此本程序已于2024.12.04在淘天知识产权进行了备案,如有盗版将追究。

【闲鱼链接】:https://m.tb.cn/h.TWN65OE?tk=cweO3FAVwan CZ001

如果链接失效,可在闲鱼搜索:耐心的等待5283 ,然后点"用户"即可找到个人主页下的程序。

相关推荐
哥布林学者6 分钟前
吴恩达深度学习课程二: 改善深层神经网络 第一周:深度学习的实践(五)归一化
深度学习·ai
杭州杭州杭州23 分钟前
深度学习(1)---基础概念扫盲
人工智能·深度学习
Brsentibi37 分钟前
深度学习—数据标注—label-studio
深度学习·数据标注·label-studio·yolo数据集自制
机器学习之心1 小时前
SSA-Transformer-LSTM麻雀搜索算法优化组合模型分类预测结合SHAP分析!优化深度组合模型可解释分析,Matlab代码
分类·lstm·transformer·麻雀搜索算法优化·ssa-transformer
亚里随笔3 小时前
ReSpec:突破RL训练瓶颈的推测解码优化系统
人工智能·深度学习·自然语言处理·大语言模型·rlhf
Anson Jiang3 小时前
PyTorch轻松实现CV模型:零基础到实战
pytorch·python·django·flask·python开发
CoovallyAIHub4 小时前
视觉语言模型(VLM)深度解析:如何用它来处理文档?
深度学习·算法·计算机视觉
CoovallyAIHub4 小时前
估值百亿独角兽创始人硕士论文曝光!宇树科技王兴兴的“性价比”思维10年前就已注定
深度学习·算法·计算机视觉
IT古董5 小时前
【第七章:时间序列模型】2.时间序列统计模型与神经网络模型-(2)适用广泛的时间序列模型:Arima模型
人工智能·深度学习·神经网络
java1234_小锋6 小时前
PyTorch2 Python深度学习 - transform预处理转换模块
开发语言·python·深度学习·pytorch2