AI 事件专题★ 3

PAU代码API理解基准

PAU基准测试黑盒API交互理解能力

09-29 12:00 首发·1 家媒体·1 篇报道·持续 1 天·学术研究
相关方:OOpenAIAAnthropic
事件综述

论文提出PAU基准,让模型仅通过黑盒API级访问与探索性输入来理解Python代码片段的功能,研究无监督工具理解问题。即便前沿模型表现也不佳,最强的-4-Opus在超过45%的测试集上失败,常见错误是过度自信导致探索不足与过早终止。借鉴非对称演员评论家范式后训练,可匹配-5-mini。

各方报道 1 篇

arXiv cs.AI·09-29 12:00★ 3
PAU基准测试黑盒API交互理解能力

论文提出PAU基准,让模型仅通过黑盒API级访问与探索性输入来理解Python代码片段的功能,研究无监督工具理解问题。即便前沿模型表现也不佳,最强的-4-Opus在超过45%的测试集上失败,常见错误是过度自信导致探索不足与过早终止。借鉴非对称演员评论家范式后训练,可匹配-5-mini。

原文

关联

PAU代码API理解基准 最新进展 - 事件时间线 - 智讯 AI News