SCI论文创新思路

SCI论文创新思路

一、 创新的分类

1、算法创新

比如提出CNN、LSTM、GCN、Attention、GAN这些伟大的算法,图灵奖大佬或在路上的大佬

2、架构创新

提出Transformer这种新的架构

3、迁移创新

将NLP的Transformer应用到CV领域,打破了cv和nlp的壁垒

VIT

4、思想创新

预训练

5、方法创新

最多的还是基于Transformer,大多对注意力改进

6、组合创新

1、融合的方式:串行、并行

2、对模块进行微改,看起来具有创新性(可能没啥效果)

三四区=LSTM+Attention(变体,通道,概率稀疏注意力,金字塔注意力)+posion embedding

三四区=Transformer+Attention+cnn+pool+position embedding

组合创新,大有可为!!

二、组合创新的必要性

上限高低:上可顶刊顶会,下可三区四区EI

入场门槛:既可0论文入手,也可顶会下场

助人程度:上可任教读博,下可毕业无忧

三、组合创新的流程

一般的科研流程:

1、明确领域内存在的问题(广泛阅读基础,思考)

2、提出合适的算法去解决(明确每个算法的优点)
组合创新的流程:

1、提出一个组合模型(了解一些顶会顶刊的模型框架,以及具体的算法,并进行总结)

2、了解对应论文中的问题(明确论文的动机和贡献,动机是你的动机的一部分,贡献是你的贡献的一部分,模块来源于哪一篇论文,好好读)

四、组合创新举例

1、组合创新公式

组合创新=基准模型(Transformer、U-Net)+模块(Attention、GCN)

如果想发一区:

1)组合的方式:串行、并行、融合等

2)对模块进行微改,或是加入一些小trick,看起来具有创新性

2、生活中的例子

3、关于CV的例子

4、魔改的方法

组合创新=基准模型(Transformer、U-Net)+模块(Attention、GCN)

如果想发一区:

1)组合的方式:串行、并行、融合等

2)对模块进行微改,或是加入一些小trick,看起来具有创新性


相关推荐
做程序员的第一天29 分钟前
在PyTorch中,钩子(hook)是什么?在神经网络中扮演什么角色?
pytorch·python·深度学习
醉酒柴柴38 分钟前
【代码pycharm】动手学深度学习v2-07 自动求导
ide·深度学习·pycharm
风走茶未凉1 小时前
转置卷积与全卷积网络FCN在语义分割中的应用
网络·深度学习·cnn
Jurio.1 小时前
Conda 管理项目环境
人工智能·python·深度学习·conda·virtualenv·pip
曼城周杰伦2 小时前
自然语言处理:第六十二章 KAG 超越GraphRAG的图谱框架
人工智能·pytorch·神经网络·自然语言处理·chatgpt·nlp·gpt-3
Donvink2 小时前
多模态大语言模型——《动手学大模型》实践教程第六章
人工智能·深度学习·语言模型·自然语言处理·llama
小彭努力中3 小时前
138. CSS3DRenderer渲染HTML标签
前端·深度学习·3d·webgl·three.js
tzc_fly3 小时前
scPair:隐式特征选择提高single-cell paired多模态分析
深度学习
李歘歘4 小时前
Stable Diffusion经典应用场景
人工智能·深度学习·计算机视觉
段传涛4 小时前
AI Prompt Engineering
人工智能·深度学习·prompt