★ 4
天数智芯公布天垓300实测：部分推理场景达H200水平
天数智芯发布天垓300 加速卡实测数据，称在部分推理场景中性能达到英伟达 H200 水平，端侧产品对标 Thor T5000。这是国产 AI 芯片在推理算力上对标国际旗舰的一次公开性能披露。
InfoQ AI3 天前
#推理算力
共 5 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 4
中国电信研究院：未来2-3年算力需求年均增长近10倍
中国电信研究院发布《智能体时代AI基础设施发展研究报告（2026）》，指出中国AI产业正从大模型与算力竞赛转向智能体规模化落地与应用变现。报告预测Token年消耗量2026年达10亿亿，2030年超3500亿亿，四年增长350倍。算力需求未来2-3年年均增长近10倍，推理算力占比预计2029年达8…
36氪48 天前
★ 3
ELR 提出无税循环语言模型，产出 Koi-4B
arXiv 论文提出 Elastic Latent Recurrence（ELR）训练方法，让循环（latent recurrent）语言模型在单次循环时不再落后于同规模非循环模型，从而消除「单循环税」。通过门控状态更新、混合循环深度与循环索引条件化三项设计，模型可随推理算力增加循环次数换取精度。…
arXiv NLP21 天前
★ 3
Hermes：学习上下文推理解锁测试时扩展
论文提出 Hermes 系列可配置测试框架，逐步将上下文分配与复用决策权交给模型，并配套 Hermes-Learn 两阶段学习框架。研究发现强模型可利用该灵活性随推理算力扩展，而小型开源模型初期难以做到，经 Hermes-Learn 训练后可缩小差距。所得自适应上下文推理策略可跨基准与模型泛化，并…
arXiv cs.LG32 天前
★ 3
硅基流动完成B+轮二期及C轮融资，年内累计近29亿元
国内AI基础设施公司硅基流动宣布完成B+轮二期及C轮融资，年内累计融资额接近29亿元人民币。资金将主要用于推理算力平台建设与模型服务能力扩展。这反映出国内大模型推理侧基础设施持续获得资本青睐。
InfoQ AI42 天前