★ 2
Circuit Oracle 用自然语言查询自动分析归因图
研究提出 Circuit Oracle，用配备多智能体框架的现成大模型通过工具调用读取归因图，回答关于目标模型的自然语言问题。在虚假特征检测上达到 78.2% 准确率，超过单层特征排序基线，但在秘密诱导与拒绝抑制任务上表现参差，部分不及专用基线。
arXiv NLP10 小时前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究提出 Circuit Oracle，用配备多智能体框架的现成大模型通过工具调用读取归因图，回答关于目标模型的自然语言问题。在虚假特征检测上达到 78.2% 准确率，超过单层特征排序基线，但在秘密诱导与拒绝抑制任务上表现参差，部分不及专用基线。
研究分析TopK稀疏自编码器特征归因图，发现零化一个特征常使下一层特征越过截断边界，且这些跨越主导响应能量。作者提出边际图，以同等代价加入一阶变化并重排序，中位相对误差不超过0.033，远优于原图的0.247以上。