(下一个更新)PATNAS: A Path-Based Training-Free NeuralArchitecture Search

摘要

评估网络架构的高成本阻碍了神经架构搜索 (NAS) 的发展。最近,提出了几种零成本代理,作为一种有前途的方法,以降低 NAS 中网络架构的评估成本。它们可以在初始阶段的几秒钟内快速估计网络的最终性能。然而,现有的零成本代理要么忽略了网络结构对性能的影响,要么仅限于特定任务。为了解决这些问题,我们提出了一种名为骨架路径核跟踪 (SPKT) 的新型零成本代理,它利用整个网络架构的骨架路径结构信息。然后,我们将其集成到名为 PATNAS 的有效 NAS 贝叶斯优化框架中,并证明其在不同数据集上的有效性。结果表明,我们提出的 SPKT 零成本代理可以在多个任务中与网络的最终性能实现高度相关。此外,它可以显著加快寻找最佳性能网络架构的搜索过程。

相关推荐
陈嘿萌3 分钟前
NeurIPS | 3EED:车辆、无人机、机器狗谁更会找东西?在三维空间中定位各处万物!
人工智能·深度学习·计算机视觉·学术研究与理论基础
OCR_133716212753 分钟前
户外强光下护照OCR为什么崩?从ISP到边缘AI,拆一下ER阅读器的抗眩光架构
人工智能·ocr·接口隔离原则
Anhty5 分钟前
2026三款AI变声器测评:iOS男变女自然声线实测
人工智能·功能测试·ios·智能手机
张祥6422889049 分钟前
地球运转、时间系统与坐标系统:GNSS大地测量学基础总结
人工智能
2401_8322981011 分钟前
人工智能:改变生活,也考验人类
人工智能
虎鲸不是鱼12 分钟前
AI 自动化逆向(二十五)数据表格式:一个恒等式覆盖 99% 的表
人工智能·自动化·大模型·逆向·ai逆向
lucas_AI14 分钟前
预算只够升级 10% 的查询,该升级谁?金融文档 QA 的Token分配课
人工智能
qq_3646821516 分钟前
AI如何将录音内容自动整理成Excel清单
人工智能·excel
≮傷£≯√16 分钟前
opencv 图像处理(一)
图像处理·人工智能·opencv