深度学习登上Nature子刊!特征选择创新思路

2025深度学习发论文&模型涨点之------特征选择

特征选择作为机器学习与数据挖掘领域的核心预处理步骤,其重要性在当今高维数据时代日益凸显。

通过识别最具判别性的特征子集,特征选择算法能够有效缓解"维度灾难"、提升模型泛化能力,并增强结果的可解释性。近年来,随着深度学习与异构数据的快速发展,传统过滤式(Filter)、包裹式(Wrapper)和嵌入式(Embedded)方法正面临新的挑战与革新。

我整理了一些特征选择【**论文+代码】**合集,需要的同学公人人人号【AI创新工场】自取。

论文精选

论文1:

Recent advances in feature selection and its applications

特征选择的最新进展及其应用

方法

稀疏性特征选择:通过在损失函数中加入稀疏性约束(如L1范数)来选择特征,适用于高维小样本数据。

多源特征选择:利用来自不同源的知识(如样本相似性或特征属性)来增强特征选择的可靠性。

分布式特征选择:采用分布式计算策略,如MPI和MapReduce,以提高特征选择算法在大规模数据集上的可扩展性。

多视图特征选择:结合来自不同视图(如医学检查中的临床、影像、免疫学等)的信息,以提高特征选择的效果。

创新点

稀疏性特征选择改进:通过结构化稀疏性诱导范数(如组Lasso和弹性网)改进了Lasso方法,能够更好地处理组结构数据。

多源知识融合:提出了将不同源的知识转换为样本或特征知识的方法,提高了特征选择在小样本问题上的性能。

分布式计算支持:通过分布式计算模型,实现了在大规模数据集上的高效特征选择,计算速度提升了约10倍。

多视图学习增强:在多视图学习中,考虑了视图之间的关系,通过张量积空间表示这种关系,提高了特征选择的性能。

论文2:

IGANN SPARSE: BRIDGING SPARSITY AND INTERPRETABILITY WITH NON-LINEAR INSIGHT

IGANN SPARSE:通过非线性洞察力连接稀疏性和可解释性

方法

非线性特征选择:IGANN Sparse通过非线性特征选择过程在训练期间促进稀疏性,确保通过改进模型稀疏性提高可解释性,同时不牺牲预测性能。

极端学习机(ELM):利用ELM进行快速训练,ELM是一种简单的前馈神经网络,使用比基于梯度的算法更快的学习方法。

贝叶斯信息准则(BIC):在特征选择过程中使用BIC来平衡模型拟合和复杂性,仅保留对模型预测具有显著解释能力的特征。

创新点

非线性关系捕捉:IGANN Sparse能够捕捉数据中的非线性关系,这是传统线性特征选择方法所无法实现的。

稀疏性与可解释性平衡:在保持与非稀疏模型相当的预测性能的同时,显著减少了特征数量,提高了模型的可解释性。

性能提升:在多个数据集上,IGANN Sparse的预测性能优于或接近非稀疏模型,同时特征数量减少了约75%。

特征选择能力:与Lasso等传统特征选择方法相比,IGANN Sparse在多数数据集上表现更好,特别是在非线性关系丰富的数据集上。

论文3:

All-optical VPN Utilizing DSP-based Digital Orthogonal Filters Access for PONs

基于DSP数字正交滤波器的全光VPN接入PONs

方法

数字滤波器多址接入(DFMA)技术:利用集中式SDN控制器管理的动态软件可重构嵌入式数字正交滤波器,显著增强基于DSP的光收发器和网络操作的功能性、可升级性和灵活性。

动态数字滤波器分配与回收:通过SDN可控的动态数字滤波器分配和回收机制,实现多个VPN通信的动态建立和取消。

多种信号格式支持:系统支持脉冲幅度调制(PAM)、正交幅度调制(QAM)和正交频分复用(OFDM)等多种信号格式。

单收发器设计:每个ONU仅需一个终端收发器即可同时向上游(US)/VPN数据传输到OLT或其他ONU,显著降低网络建设和运营成本。

创新点

全光VPN的动态性:首次在DFMA-PON中实现全光VPN的动态建立和取消,支持任意流量的VPN通信。

信号格式灵活性:系统不受限于固定信号格式,可使用多种信号格式,提升了网络的适应性和灵活性。

成本效益:通过单收发器设计和数字信号处理(DSP)实现信号复用和解复用,减少了昂贵的光/电组件需求,显著降低了网络复杂性和成本。

性能提升:在25公里单模光纤传输中,DS OFDM信号的误码率(BER)低于前向纠错(FEC)限制的3.8×10^-3,US/VPN信号的功率惩罚小于2dB。

相关推荐
MemOS2 分钟前
Memory 系统全面横评:谁让 Agent 具备更强长期智能?
人工智能
怪兽学LLM11 分钟前
LeetCode 105. 从前序与中序遍历序列构造二叉树:分治递归思路详解
算法·leetcode·职场和发展
delishcomcn22 分钟前
AI视觉+分切机:烫金箔废边自动寻优算法实战
人工智能
可编程芯片开发23 分钟前
基于PI控制的三相整流器控制系统的simulink建模与仿真,包含超级电容充电和电机
算法
秦任之27 分钟前
Gliding Horse 整体架构拼图:当 AI Agent 有了自己的操作系统
人工智能·架构
CIO_Alliance27 分钟前
企业级AI化转型基础认知(2):大语言模型、RAG、Agent与微调核心概念一次厘清
人工智能·深度学习·机器学习·语言模型·ipaas·系统集成·企业cio联盟
酿情师36 分钟前
区块链共识算法深度拆解:PoW、PoS、PBFT、Raft 原理解析
算法·区块链·共识算法
Kim_wang40 分钟前
agent项目部署流程
人工智能·后端
hansang_IR44 分钟前
【记录】「SCOI2016」三道模拟赛/26.7.12
c++·算法
隔窗听雨眠1 小时前
从追赶者到定义者:中国BI如何借助AI实现弯道超车
大数据·人工智能