技术
Provenance-Aware Training(溯源感知训练)
Provenance-Aware Training 指在训练中追踪数据来源和变换历史,以解决模型可解释性、公平性和合规性问题。典型应用包括数据溯源、版权保护和偏见检测,代表工作如 Data Provenance 倡议和模型卡。
详细解释
背景:机器学习模型依赖大规模数据,但数据来源和预处理过程常不透明,导致难以审计模型决策和确保合规。技术说明:Provenance-Aware Training 在训练流程中记录每个样本的来源、许可、变换操作等元数据,并可能将溯源信息作为特征或约束融入模型。这有助于检测数据偏见、满足 GDPR 等法规要求,并提升模型透明度。实现方式包括数据版本控制、溯源图构建和训练日志记录。
别名与相关写法
provenance-aware training