#自我纠错

论文质疑 AI 智能体自我纠错的核心假设

论文探讨 AI 智能体在判断自身推理有缺陷时是否应放弃结论，指出盲从自我评估反而可能削弱其区分可靠与缺陷推理的能力。作者认为智能体可依据推理过程信息保留被自评为不合理的结论，这本身是一种认知能力；而通过训练让结论与自评一致，也可能靠降低任一方来实现。结论是负面评估的价值在于标记需进一步审查的结论，…