★ 4
66岁Yann LeCun发新论文挑战Scaling Law：1.09亿参数胜过720亿
66岁的Yann LeCun发表新论文挑战Scaling Law，指出模型越大不一定越懂世界，实验显示1.09亿参数模型可胜过720亿参数模型。该研究对「规模即能力」的主流范式提出质疑。
InfoQ AI刚刚
#模型规模
共 5 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
研究：模型越大越依赖思维链，且与后训练无关
论文在中间状态完全已知的合成换箱任务上，通过替换模型自身思维链中的一步来测量答案对步骤的依赖度，评测 25 个开源权重模型（Qwen3、Gemma 3、Llama 3、OLMo 2）。发现依赖度随规模上升并饱和，Qwen3 从 0.6B 的 16-18% 升至 14B 的 97-100%，且与能力…
arXiv NLP3 天前
★ 2
OpenAI 的 Ted Sanders 解释模型命名规则与规模排序
OpenAI 的 Ted Sanders 在讨论中解释，LLM 性能多维但大部分差异由模型规模解释，越大模型越可靠、单价越高、冷门事实召回更好。他说明 OpenAI 模型排序为 Luna < Terra < Sol < Astra，版本号同时表示发布顺序、与其他版本的关系及改进幅度。
Simon Willison Blog4 天前
★ 2
研究：模型规模提升线性可恢复性而非原生几何一致性
论文区分「原生余弦几何」与「线性可恢复性」两种表示相似性，用 Legacy Survey 与 HSC 匹配嵌入在五个模型家族上验证。结果显示 Ridge 对齐强化了模型规模与跨数据集邻域对应的关系，且稀疏自编码器特征并不优于稠密嵌入对齐，说明规模提升的是线性可恢复性而非共享度量几何的收敛。
arXiv cs.LG14 天前
★ 2
这个主题的相关资产
相关公司OpenAI1