★ 2
研究提出 Agentic AI 验证与自我改进的理论框架与边界
论文通过带隐藏终端随机性的有界验证比较智能体自我改进机制,证明独立多数放大可保持语言类,而随机磁带上的存在性接受可能引入错误输出。研究还分析递归自我改进在固定验证协议下仍属同一验证类,并给出条件误差预算控制错误选择。
arXiv cs.AI24 天前
共 4 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文通过带隐藏终端随机性的有界验证比较智能体自我改进机制,证明独立多数放大可保持语言类,而随机磁带上的存在性接受可能引入错误输出。研究还分析递归自我改进在固定验证协议下仍属同一验证类,并给出条件误差预算控制错误选择。
一篇博客文章指出,「模型崩溃」现象并非AI领域新出现的问题,也不为AI所独有,在更早的系统与学科中已有类似先例。文章借此反思当前对模型崩溃的过度关注。
Astral Codex Ten 发表文章探讨 AI 泛化能力的未解之谜,讨论模型为何能在训练分布之外表现良好,以及这种泛化背后的机制仍缺乏理论解释。该话题触及当前大模型可靠性、对齐与安全评估的核心争议。
研究者发布 TORI 2.0,一个用于描述宇宙尺度 AI 循环与数据衰减的数学框架,论文托管于 Zenodo。该工作在 Hacker News 上分享,目前热度极低。