#能效

共 16 篇相关资讯,按重要度与时间排序,每 3 小时更新。

★ 4

论文提出用无线电混频器运行卷积神经网络

论文提出射频卷积神经网络(RF-CNN),利用无线电台中已有的频率混频器在频域原生执行卷积,从而复用现有通信硬件进行 CNN 推理。实验表明其可运行多达 2640 万参数、九层的深度 CNN,覆盖无线信号与图像分类及可控图像生成,性能接近全精度。由于权重通过空中传输且模拟硬件与通信共享,每次乘加能…

arXiv cs.LG45 天前
★ 4

AI Infra峰会:英伟达Vera Rubin与DSX平台提升能效

在AI Infra峰会上,英伟达副总裁Ian Buck介绍了Vera Rubin和DSX平台的最新进展,重点展示通过优化每瓦Token数提升AI工厂能效。峰会规模从去年3500人增至8000余人,反映AI基础设施热度飙升。

NVIDIA Blog – AI47 天前
★ 4

OpenAI自研推理芯片Jalapeño亮相

OpenAI推出定制推理芯片Jalapeño,宣称在AI推理速度和能效上达到行业领先水平,提供更高吞吐量和更低延迟,专为现代模型优化。此举有望降低推理成本并提升性能。

OpenAI68 天前
★ 3

AIDC 基建进入深度重构期,液冷成能效核心抓手

在 2026 国际(武汉)智能建造产业博览会上,业内人士表示国内智算中心已从规模扩张转入拼能效、拼速度、拼协同的阶段。电力约束、交付周期与技术迭代带来多重挑战,液冷技术被视为破解散热与能效难题的关键,有望随标准统一加速落地。

36氪3 天前
★ 3

研究实测 86 个开源 LLM 推理能耗效率差异

论文直接测量 86 个开源权重模型在七项基准与六类硬件上的推理能耗,发现能力相近的模型能耗差异巨大,多数配置远离分数-能耗帕累托前沿,能耗差距中位数达 2.6-4.8 倍,最高 27 倍。开启推理平均增加约 3.7 倍能耗,FP8 可降低约四分之一能耗,作者主张基准分数应同时报告实测能耗。

arXiv cs.AI19 天前
★ 3

AI 秒级完成数据中心热感知容量规划

针对 LLM 训练与推理带来的 GPU 局部热点与热负载尖峰,论文提出 AI 驱动的热感知容量规划框架。内嵌模型学习机架功率、服务器布局、HVAC 设置等关键参数,可在毫秒级完成温度预测,相比高保真 CFD 仿真实现 10000 倍加速且保持高精度。该框架可帮助数据中心设计者与运营者即时优化工作负…

arXiv cs.LG28 天前
★ 3

研究:神经符号路由让边缘设备可靠推理

论文提出神经符号路由器,将查询分类并分派给最便宜的正确答案求解器,结构化任务交给确定性引擎,小语言模型仅处理开放式应用题。路由逻辑通过L*语法推断算法学习确定性有限自动机,以SLM为成员预言机。在树莓派4B上,学习路由达到100%路由准确率与98.3%总体准确率,远高于Program-of-Tho…

arXiv cs.AI33 天前
★ 3

近乎完全的液冷散热保持 AI 机架低温

IEEE Spectrum 报道 CoolIT 的无风扇液冷 AI 服务器方案,实现近乎完全的液体热量捕获,以应对高密度 AI 机架的散热挑战。该技术有望提升数据中心能效并支持更高功率的 GPU 部署。

Hacker News – AI38 天前
★ 3

从兆瓦到Token:英伟达如何最大化AI工厂产能

英伟达与Emerald AI合作,通过需求响应信号动态调整AI数据中心的电力消耗,以缓解电网压力。文章详述AI工厂如何在电力受限时灵活调度算力,将兆瓦转化为Token产出。

NVIDIA Blog – AI47 天前
★ 3

LLM 还是朴素贝叶斯:旧法与新法之争

论文将 Complement Naive Bayes 与零样本、少样本 LLM 在文本分类任务上对比,覆盖四个模型家族、27B 至 1T 参数规模。结果显示 LLM 仅在零数据场景占优,一旦有标注数据,NB 在 AG News 上达到 89.1%,与零样本 27B LLM 持平并超过 397B 前…

arXiv cs.LG48 天前
★ 3

研究提出推理感知压缩保护 LLM 推理电路降能耗

提出推理感知压缩框架,识别并保护LLM中关键推理电路,避免均匀量化造成损害。通过基准测试和模块级INT4脆弱性分析,选择性恢复敏感电路至FP16,实现帕累托最优,在ProofWriter上提升准确率并降低能耗。

arXiv cs.AI54 天前
★ 3

SpikeOPD:脉冲语言模型稳定同策略蒸馏

提出SpikeOPD,一种用于自回归尖峰语言模型的稳定在线策略蒸馏框架,解决前缀源不匹配问题。在多个模型规模上提升准确率,同时保持稀疏计算特性。

arXiv cs.AI63 天前
★ 2

HRF-Res 用谐振神经元替代 LIF 提升脉冲储备池精度

arXiv 论文提出 HRF-Res,用异构谐振放电(HRF)神经元替换传统 LIF 神经元构建液态状态机,使脉冲储备池能选择性响应不同时间频率的输入。在时间序列、序列图像、音频脉冲与神经形态视觉共 10 个基准上取得脉冲储备池方法中的最优精度,能耗比等效非脉冲振荡储备池低至 19 倍。

arXiv cs.AI3 天前
★ 2

IBM发布类脑芯片NorthPole

IEEE Spectrum 回顾 IBM 的类脑芯片 NorthPole,该芯片借鉴人脑结构,在能效与推理速度上优于传统架构。文章为 2023 年旧闻,属于神经形态计算方向的代表性成果。

Hacker News – AI28 天前
★ 2

每瓦智能:衡量本地 AI 的智能效率

一篇 arXiv 论文提出「每瓦智能」(Intelligence per Watt)指标,用于衡量本地部署 AI 的能效表现。该研究试图为边缘与本地推理场景建立更统一的效率评估框架,对硬件选型与模型部署有参考价值。

Hacker News – AI48 天前

这个主题的相关资产

相关标签

能效 最新资讯与动态(16 篇) - 智讯 AI News