★ 4
代理置信度：用替代模型对数概率审计黑盒LLM智能体
论文提出「代理置信度」方法，用一个低成本开源替代模型并行读取与智能体相同的上下文、schema 和拟执行动作，通过教师强制、请求 PMI、判别式裁决和工具选择竞争等读出方式，从自身对数概率中恢复前沿 API 隐藏的置信信号。该方法无需训练、无需访问智能体内部，在困难编码任务上 AUROC 达 0.…
arXiv cs.AI27 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文提出「代理置信度」方法，用一个低成本开源替代模型并行读取与智能体相同的上下文、schema 和拟执行动作，通过教师强制、请求 PMI、判别式裁决和工具选择竞争等读出方式，从自身对数概率中恢复前沿 API 隐藏的置信信号。该方法无需训练、无需访问智能体内部，在困难编码任务上 AUROC 达 0.…