推理可靠性

推理可靠性关注模型在未见数据上的表现稳定性，涉及鲁棒性、校准和不确定性量化。常见挑战包括对抗攻击、分布偏移和幻觉。提升方法包括数据增强、集成学习和形式化验证，对高风险应用至关重要。