技术
Provenance Tracking(溯源追踪)
Provenance Tracking 是记录数据或模型输出来源与处理历史的技术,用于确保 AI 系统的透明性和可审计性。它解决模型决策黑箱和内容可信度问题,典型应用包括生成内容的溯源、训练数据版权追踪,代表工作如 C2PA 标准。
详细解释
Provenance Tracking 源于对 AI 可解释性和合规性的需求。在 LLM 中,它追踪生成文本所依赖的训练数据、提示或外部知识。技术包括元数据标注、区块链存证、水印等。例如,C2PA(内容来源和真实性联盟)为媒体提供来源验证。在 RAG 系统中,追踪检索文档的来源可增强可信度。挑战在于大规模数据下的高效记录和隐私保护。
别名与相关写法
provenance tracking