★ 3
研究揭示 LLM 优化器陷入原理级局部最优瓶颈
论文提出「原理级搜索坍缩」概念,指反馈驱动的 LLM 优化器虽持续产出不同候选,但搜索被限制在狭窄的设计原理集合内。在分子优化、网络哨兵节点选择与 GPU 内核优化 161 次运行中,78.3% 出现坍缩迹象,而多样性注入等常见缓解手段效果有限。
arXiv cs.LG13 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出「原理级搜索坍缩」概念,指反馈驱动的 LLM 优化器虽持续产出不同候选,但搜索被限制在狭窄的设计原理集合内。在分子优化、网络哨兵节点选择与 GPU 内核优化 161 次运行中,78.3% 出现坍缩迹象,而多样性注入等常见缓解手段效果有限。