论文提出用无线电混频器运行卷积神经网络
论文提出射频卷积神经网络(RF-CNN),利用无线电台中已有的频率混频器在频域原生执行卷积,从而复用现有通信硬件进行 CNN 推理。实验表明其可运行多达 2640 万参数、九层的深度 CNN,覆盖无线信号与图像分类及可控图像生成,性能接近全精度。由于权重通过空中传输且模拟硬件与通信共享,每次乘加能…
共 16 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出射频卷积神经网络(RF-CNN),利用无线电台中已有的频率混频器在频域原生执行卷积,从而复用现有通信硬件进行 CNN 推理。实验表明其可运行多达 2640 万参数、九层的深度 CNN,覆盖无线信号与图像分类及可控图像生成,性能接近全精度。由于权重通过空中传输且模拟硬件与通信共享,每次乘加能…
在AI Infra峰会上,英伟达副总裁Ian Buck介绍了Vera Rubin和DSX平台的最新进展,重点展示通过优化每瓦Token数提升AI工厂能效。峰会规模从去年3500人增至8000余人,反映AI基础设施热度飙升。
OpenAI推出定制推理芯片Jalapeño,宣称在AI推理速度和能效上达到行业领先水平,提供更高吞吐量和更低延迟,专为现代模型优化。此举有望降低推理成本并提升性能。
在 2026 国际(武汉)智能建造产业博览会上,业内人士表示国内智算中心已从规模扩张转入拼能效、拼速度、拼协同的阶段。电力约束、交付周期与技术迭代带来多重挑战,液冷技术被视为破解散热与能效难题的关键,有望随标准统一加速落地。
论文直接测量 86 个开源权重模型在七项基准与六类硬件上的推理能耗,发现能力相近的模型能耗差异巨大,多数配置远离分数-能耗帕累托前沿,能耗差距中位数达 2.6-4.8 倍,最高 27 倍。开启推理平均增加约 3.7 倍能耗,FP8 可降低约四分之一能耗,作者主张基准分数应同时报告实测能耗。
针对 LLM 训练与推理带来的 GPU 局部热点与热负载尖峰,论文提出 AI 驱动的热感知容量规划框架。内嵌模型学习机架功率、服务器布局、HVAC 设置等关键参数,可在毫秒级完成温度预测,相比高保真 CFD 仿真实现 10000 倍加速且保持高精度。该框架可帮助数据中心设计者与运营者即时优化工作负…
论文提出神经符号路由器,将查询分类并分派给最便宜的正确答案求解器,结构化任务交给确定性引擎,小语言模型仅处理开放式应用题。路由逻辑通过L*语法推断算法学习确定性有限自动机,以SLM为成员预言机。在树莓派4B上,学习路由达到100%路由准确率与98.3%总体准确率,远高于Program-of-Tho…
IEEE Spectrum 报道 CoolIT 的无风扇液冷 AI 服务器方案,实现近乎完全的液体热量捕获,以应对高密度 AI 机架的散热挑战。该技术有望提升数据中心能效并支持更高功率的 GPU 部署。
英伟达与Emerald AI合作,通过需求响应信号动态调整AI数据中心的电力消耗,以缓解电网压力。文章详述AI工厂如何在电力受限时灵活调度算力,将兆瓦转化为Token产出。
论文将 Complement Naive Bayes 与零样本、少样本 LLM 在文本分类任务上对比,覆盖四个模型家族、27B 至 1T 参数规模。结果显示 LLM 仅在零数据场景占优,一旦有标注数据,NB 在 AG News 上达到 89.1%,与零样本 27B LLM 持平并超过 397B 前…
提出推理感知压缩框架,识别并保护LLM中关键推理电路,避免均匀量化造成损害。通过基准测试和模块级INT4脆弱性分析,选择性恢复敏感电路至FP16,实现帕累托最优,在ProofWriter上提升准确率并降低能耗。
提出SpikeOPD,一种用于自回归尖峰语言模型的稳定在线策略蒸馏框架,解决前缀源不匹配问题。在多个模型规模上提升准确率,同时保持稀疏计算特性。
arXiv 论文提出 HRF-Res,用异构谐振放电(HRF)神经元替换传统 LIF 神经元构建液态状态机,使脉冲储备池能选择性响应不同时间频率的输入。在时间序列、序列图像、音频脉冲与神经形态视觉共 10 个基准上取得脉冲储备池方法中的最优精度,能耗比等效非脉冲振荡储备池低至 19 倍。
IEEE Spectrum 回顾 IBM 的类脑芯片 NorthPole,该芯片借鉴人脑结构,在能效与推理速度上优于传统架构。文章为 2023 年旧闻,属于神经形态计算方向的代表性成果。
Dropbox分享了如何通过提升现有基础设施的能效,为AI工作负载腾出算力余量。该做法聚焦于优化资源利用率,在不新增大量硬件的前提下支撑AI需求。
一篇 arXiv 论文提出「每瓦智能」(Intelligence per Watt)指标,用于衡量本地部署 AI 的能效表现。该研究试图为边缘与本地推理场景建立更统一的效率评估框架,对硬件选型与模型部署有参考价值。