深度学习登上Nature子刊!特征选择创新思路

2025深度学习发论文&模型涨点之------特征选择

特征选择作为机器学习与数据挖掘领域的核心预处理步骤,其重要性在当今高维数据时代日益凸显。

通过识别最具判别性的特征子集,特征选择算法能够有效缓解"维度灾难"、提升模型泛化能力,并增强结果的可解释性。近年来,随着深度学习与异构数据的快速发展,传统过滤式(Filter)、包裹式(Wrapper)和嵌入式(Embedded)方法正面临新的挑战与革新。

我整理了一些特征选择【**论文+代码】**合集,需要的同学公人人人号【AI创新工场】自取。

论文精选

论文1:

Recent advances in feature selection and its applications

特征选择的最新进展及其应用

方法

稀疏性特征选择:通过在损失函数中加入稀疏性约束(如L1范数)来选择特征,适用于高维小样本数据。

多源特征选择:利用来自不同源的知识(如样本相似性或特征属性)来增强特征选择的可靠性。

分布式特征选择:采用分布式计算策略,如MPI和MapReduce,以提高特征选择算法在大规模数据集上的可扩展性。

多视图特征选择:结合来自不同视图(如医学检查中的临床、影像、免疫学等)的信息,以提高特征选择的效果。

创新点

稀疏性特征选择改进:通过结构化稀疏性诱导范数(如组Lasso和弹性网)改进了Lasso方法,能够更好地处理组结构数据。

多源知识融合:提出了将不同源的知识转换为样本或特征知识的方法,提高了特征选择在小样本问题上的性能。

分布式计算支持:通过分布式计算模型,实现了在大规模数据集上的高效特征选择,计算速度提升了约10倍。

多视图学习增强:在多视图学习中,考虑了视图之间的关系,通过张量积空间表示这种关系,提高了特征选择的性能。

论文2:

IGANN SPARSE: BRIDGING SPARSITY AND INTERPRETABILITY WITH NON-LINEAR INSIGHT

IGANN SPARSE:通过非线性洞察力连接稀疏性和可解释性

方法

非线性特征选择:IGANN Sparse通过非线性特征选择过程在训练期间促进稀疏性,确保通过改进模型稀疏性提高可解释性,同时不牺牲预测性能。

极端学习机(ELM):利用ELM进行快速训练,ELM是一种简单的前馈神经网络,使用比基于梯度的算法更快的学习方法。

贝叶斯信息准则(BIC):在特征选择过程中使用BIC来平衡模型拟合和复杂性,仅保留对模型预测具有显著解释能力的特征。

创新点

非线性关系捕捉:IGANN Sparse能够捕捉数据中的非线性关系,这是传统线性特征选择方法所无法实现的。

稀疏性与可解释性平衡:在保持与非稀疏模型相当的预测性能的同时,显著减少了特征数量,提高了模型的可解释性。

性能提升:在多个数据集上,IGANN Sparse的预测性能优于或接近非稀疏模型,同时特征数量减少了约75%。

特征选择能力:与Lasso等传统特征选择方法相比,IGANN Sparse在多数数据集上表现更好,特别是在非线性关系丰富的数据集上。

论文3:

All-optical VPN Utilizing DSP-based Digital Orthogonal Filters Access for PONs

基于DSP数字正交滤波器的全光VPN接入PONs

方法

数字滤波器多址接入(DFMA)技术:利用集中式SDN控制器管理的动态软件可重构嵌入式数字正交滤波器,显著增强基于DSP的光收发器和网络操作的功能性、可升级性和灵活性。

动态数字滤波器分配与回收:通过SDN可控的动态数字滤波器分配和回收机制,实现多个VPN通信的动态建立和取消。

多种信号格式支持:系统支持脉冲幅度调制(PAM)、正交幅度调制(QAM)和正交频分复用(OFDM)等多种信号格式。

单收发器设计:每个ONU仅需一个终端收发器即可同时向上游(US)/VPN数据传输到OLT或其他ONU,显著降低网络建设和运营成本。

创新点

全光VPN的动态性:首次在DFMA-PON中实现全光VPN的动态建立和取消,支持任意流量的VPN通信。

信号格式灵活性:系统不受限于固定信号格式,可使用多种信号格式,提升了网络的适应性和灵活性。

成本效益:通过单收发器设计和数字信号处理(DSP)实现信号复用和解复用,减少了昂贵的光/电组件需求,显著降低了网络复杂性和成本。

性能提升:在25公里单模光纤传输中,DS OFDM信号的误码率(BER)低于前向纠错(FEC)限制的3.8×10^-3,US/VPN信号的功率惩罚小于2dB。

相关推荐
普通网友1 天前
Bard 的模型压缩技术:在保证性能的前提下如何实现轻量化部署
人工智能·机器学习·bard
白帽子黑客罗哥1 天前
不同就业方向(如AI、网络安全、前端开发)的具体学习路径和技能要求是什么?
人工智能·学习·web安全
码农水水1 天前
小红书Java面试被问:Online DDL的INSTANT、INPLACE、COPY算法差异
算法
捕风捉你1 天前
【AI转行04】特征工程:治疗 AI 的“学不会”和“想太多”
人工智能·深度学习·机器学习
何贤1 天前
2026 年程序员自救指南
人工智能·程序员·掘金技术征文
AKAMAI1 天前
分布式边缘推理正在改变一切
人工智能·分布式·云计算
极新1 天前
智面玄赏联合创始人李男:人工智能赋能招聘行业——从效率革新到平台经济重构|2025极新AIGC峰会演讲实录
人工智能·百度
乾元1 天前
ISP 级别的异常洪泛检测与防护——大流量事件的 AI 自动识别与响应工程
运维·网络·人工智能·安全·web安全·架构
机器之心1 天前
多模态推理新范式!DiffThinker:用扩散模型「画」出推理和答案
人工智能·openai
linhx1 天前
【AIGC工作流】解构AI短剧生产管线:从手动调用DeepSeek+MJ,到Agent一站式自动化的演进
人工智能·自动化·aigc