技术

Counterfactual Explanation(反事实解释)

反事实解释是一种可解释AI方法,通过生成“如果输入稍作改变,模型输出会如何变化”的假设性样本来解释模型决策,解决黑箱模型难以理解的问题,典型应用包括信贷审批和医疗诊断,代表工作如Wachter等人的反事实解释框架。

收录于 2026/9/14相关资讯 1 篇在词典中查看 →

详细解释

反事实解释源于心理学和哲学中的因果推理,近年来被引入机器学习可解释性领域。其核心思想是寻找与原始输入最接近的、但能导致模型预测发生期望变化的样本。技术实现上,通常通过优化方法在输入空间搜索满足约束的反事实样本,同时要求其与原始样本的距离最小且保持合理性。常见方法包括基于梯度的优化、遗传算法和生成模型。该技术能提供直观的“如果-那么”解释,帮助用户理解模型决策边界,并已应用于金融风控、医疗辅助诊断和自动驾驶等领域。

别名与相关写法
counterfactual explanation

相关资讯

完整术语表见 AI 术语词典; 每日新术语与进展见 AI 早报。

Counterfactual Explanation(反事实解释) 是什么?AI 术语解释 - 智讯 AI News