★ 3
研究提出因果鲁棒性边际量化大模型机制不确定性
论文提出「机制不确定性」概念，用因果鲁棒性边际衡量偏离模型输出所需的最小内部干预，并以 Jacobian Lens 概念引导向量实现。在三个开源模型与五个问答数据集上，错误与不确定回答的边际更小，且该方法可补充传统基于输出的不确定性估计。
arXiv NLP14 天前
#因果干预
共 5 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
Transformer 中的世界建模机制研究
论文以在曼哈顿随机游走上训练的 TaxiGPT 为例，通过机制分析与因果干预证明模型实际学到了路口、街道表征、位置追踪与目标罗盘导航能力。其失败源于叠加路口特征间的干扰，而 affordance packing 可缓解该问题。研究提出机制指标比较模型，并主张从「是否有世界模型」转向机制化研究世界建…
arXiv cs.AI42 天前
★ 3
可扩展神经符号模型提出生成式可解释性范式
论文主张从事后可解释性转向生成式可解释性，即模型推理过程原生暴露语义上有意义、可进行因果干预的检查点。作者论证了该范式相对其他可解释性研究范式的优势，并提出神经符号模型作为具体实现。
arXiv cs.LG48 天前
★ 2
研究：SAE特征可预测模型错误但缺乏因果性
论文区分稀疏自编码器（SAE）特征与模型错误之间的关联与因果影响，在八个数据集上分析Gemma 3 1B/4B与Gemma Scope SAE。过滤格式与内容伪影后，选定特征干预能带来更大答案边际变化，但答案翻转罕见且方向不稳定。作者认为这些特征反映上下文相关的答案竞争，而非错误机制本身。
arXiv NLP3 天前
★ 2
多语言大模型否定表征因果分析：跨语言共享
研究在六个开源模型上对英、法、越、中四种语言做因果干预，发现否定表征可被因果控制且跨语言高度共享。单一稀疏自编码器特征即可控制多语言极性，干预还能泛化到另外四种语言。作者开源了数据与代码。
arXiv NLP7 天前