#LLM 自我改进

LLM 自我改进循环中的赢家诅咒：选择噪声与接受规则

研究将 LLM 自我改进中「更优则保留」的步骤建模为测量噪声下的选择问题，发现复用评估集会导致赢家诅咒。实验显示，在 Qwen 模型改写自身指令的场景中，首轮之后多数提案实为有害，贪婪循环的选择集得分比留出集高出 13 至 20 分。作者建议自我改进研究应报告带不确定性的留出增益。