ENAS:面向微控制器的 TinyML 硬件感知 NAS 框架
论文提出 ENAS,一个无需 GPU 即可高效运行的硬件感知神经架构搜索框架,结合静态可行性检查、支持多种模块的单元搜索空间与三阶段混合搜索策略。在 Visual Wake Words 与 Melanoma Cancer 两个 TinyML 基准上,搜索时间分别加速 2.41 倍与 1.70 倍,…
共 7 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出 ENAS,一个无需 GPU 即可高效运行的硬件感知神经架构搜索框架,结合静态可行性检查、支持多种模块的单元搜索空间与三阶段混合搜索策略。在 Visual Wake Words 与 Melanoma Cancer 两个 TinyML 基准上,搜索时间分别加速 2.41 倍与 1.70 倍,…
论文提出风险鲁棒的跨任务神经架构搜索策略,结合稀疏源日志与零成本代理,通过冠军初始化和成对排序器联合预训练。在 TransNAS-Bench-101 上将最差 10% 排名从 290 降至 43,13 个目标中 10 个优于纯代理排序器。
论文提出 TGL-NSGA-II,用预训练教师按难度与类别分层样本,并通过 KD-Lite 短蒸馏为候选打分,再与高斯过程代理融合以筛选全量评估对象。在关键词唤醒与鸟鸣分类任务上,Kendall-τ 达 0.74 与 0.62,代理分数方差降低 41%,运行速度比完整 NSGA-II 快 2.2 …
论文对跨设备硬件评估的常见假设提出质疑:架构排名可跨设备迁移并不意味着代理设备能支持目标端模型选择。在NAS-Bench-201与HW-GPT-Bench(1万个GPT架构、13种设备)上测试显示,延迟排名相关性虽高,但联合延迟-能耗约束下的代理复用违规风险高达33.3%至100%。作者主张跨设备…
论文提出 RiPPLE,通过将部分训练作为锚点标签来源,外推学习曲线生成代理标签并在无标签架构特征上传播,实现整个搜索空间的架构排序。在四个搜索空间家族的十二个基准单元及 DARTS 空间上验证了排序质量与标签效率。
留一被试(LOSO)评估常用于基于被试的分类任务,但完全嵌套的神经架构搜索(NAS)计算成本随被试数呈 O(N^2) 增长。作者提出一种基于块、跨被试共享 NAS 运行的无泄漏方法。在 BioVid 热痛数据集上,平均准确率从 82.79% 提升至 83.39%,参数量最多减少 99.2%。
论文针对自动疼痛评估中留一被试(LOSO)评估嵌入神经架构搜索计算量随被试数平方增长的问题,提出基于分块、控制泄漏的 PainNAS 方法,将搜索次数从 N 降至 B(B 远小于 N)。在 BioVid 热痛数据集上,PainNAS 以显著更少的参数与 FLOPs 取得可比的被试级准确率。