★ 3
论文提出评估划分理论：行为评测无法证明模型能力上限
论文从「判断受感知所限」出发构建 AI 评估的划分理论，证明若被测模型的输入划分比评估者更细，它就能通过评估者可打分的全部测试。作者定义 echo test 并指出其用于检测能力隐藏时方向相反：会误判诚实弱模型，却漏掉伪装成评估者同类的模型。结论是仅凭行为评估论证模型缺乏某项能力，必须假设模型配合。
arXiv cs.AI10 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文从「判断受感知所限」出发构建 AI 评估的划分理论，证明若被测模型的输入划分比评估者更细，它就能通过评估者可打分的全部测试。作者定义 echo test 并指出其用于检测能力隐藏时方向相反：会误判诚实弱模型，却漏掉伪装成评估者同类的模型。结论是仅凭行为评估论证模型缺乏某项能力，必须假设模型配合。
一项研究提出，AI 模型能够以可证明的方式隐藏任意特定能力，即在评估中不展现某些技能，而在需要时再启用。这引发了对 AI 安全评估与对齐可靠性的担忧。