★ 3
LLM 自我改进循环中的赢家诅咒:选择噪声与接受规则
研究将 LLM 自我改进中「更优则保留」的步骤建模为测量噪声下的选择问题,发现复用评估集会导致赢家诅咒。实验显示,在 Qwen 模型改写自身指令的场景中,首轮之后多数提案实为有害,贪婪循环的选择集得分比留出集高出 13 至 20 分。作者建议自我改进研究应报告带不确定性的留出增益。
arXiv cs.AI24 天前
共 4 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究将 LLM 自我改进中「更优则保留」的步骤建模为测量噪声下的选择问题,发现复用评估集会导致赢家诅咒。实验显示,在 Qwen 模型改写自身指令的场景中,首轮之后多数提案实为有害,贪婪循环的选择集得分比留出集高出 13 至 20 分。作者建议自我改进研究应报告带不确定性的留出增益。
论文将 LLM 视为预言机,在双栈下推自动机上扩展一条指令,构建出可同时刻画工作流与智能体的抽象机器。研究通过存储与转移的两次对称破缺,把智能体程序视为预言机程序的操作系统,并据此建模缓存与调度。作者还提出扩展 RISC-V 指令集与类 Linux 系统 ArchNights,并计划开源。
一篇论文提出用轨迹抽象层级来研究语言智能体的行为,通过递归程序测量角色与阶段事件、构建情节级母题变量,并检验其跨任务与跨模型的稳定性。研究给出接受归约的有限深度界,并区分该实验方法与语义分类学、定性理论归纳等路径。
Flashpapers 是一个面向 AI 论文的交互式讲解工具,在 Hacker News 的 Show HN 板块发布。它试图把晦涩的论文内容转化为可交互的解释页面,降低阅读门槛。目前该帖热度极低,属于早期个人项目。