★ 3
论文研究提示级差分隐私下的奖励驱动学习
论文研究提示级差分隐私下的可验证奖励强化学习（RLVR），提出首个RLVR训练的差分隐私保证。方法将单提示的响应组作为隐私记录，聚合梯度、裁剪一次并加高斯噪声。用Qwen2.5-1.5B-Instruct与LoRA在ε=8下训练，奖励信号在MATH与GSM8K上稳定提升准确率，并保留非私有GRPO…
arXiv cs.LG26 天前
#差分隐私
共 15 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
PAC 隐私扩散模型适配保护敏感图像合成
论文指出合成数据不保证隐私，扩散模型仍易受重建攻击，而 DP-SGD 因重复裁剪加噪导致效用损失。作者提出 PAC 隐私的扩散模型适配方法，先用 LoRA 或 Textual Inversion 学习紧凑组件，再基于输出协方差校准各向异性高斯噪声，仅扰动一次。实验表明在同等重建隐私下，该方法在身份…
arXiv cs.LG27 天前
★ 3
研究揭示差分隐私语言模型的隐私-幻觉权衡
本文发现并研究了差分隐私（DP）语言模型中的隐私-幻觉权衡。实验表明，使用DP预训练或微调的模型比非DP模型产生更多幻觉，且隐私预算越严格，严重程度越高。研究还表明，DP机制使输出分布平坦化，可能将概率质量重新分配给事实不正确的替代方案。
arXiv cs.AI61 天前
★ 2
RAEM：排序感知的列表偏好本地差分隐私发布
论文指出列表式偏好反馈比成对比较提供更丰富监督，但完整排序泄露更多敏感偏好，而现有隐私对齐方法多针对成对反馈。作者提出排序感知指数机制RAEM，将列表偏好私有化为低敏感度粒度，把噪声集中在边界项附近。在同等隐私预算下，其下游LLM对齐效果稳定优于现有LDP基线。
arXiv NLP3 天前
★ 2
CA-DPSGD：用近似二阶信息缓解差分隐私训练裁剪偏差
论文提出曲率感知的差分隐私随机梯度下降框架 CA-DPSGD，利用近似二阶信息构建最优裁剪空间，并配合各向异性噪声机制保障隐私。实验显示其优于现有主流裁剪方法。
arXiv cs.LG7 天前
★ 2
研究在 IBM 量子计算机上验证差分隐私量子机器学习
论文比较容量匹配的量子模型、多层感知机与逻辑回归在临床与可穿戴健康数据上的隐私-效用权衡。量子模型在三个临床队列上领先最多 0.104 ROC AUC，但 Holm 校正后差异不显著，只能算趋势而非量子优势；并在 IBM 156 比特超导处理器 ibm_fez 上验证了推理可行性。
arXiv cs.LG11 天前
★ 2
CALLIOPE 提出免嵌入的差分隐私主题层级发现框架
论文提出 CALLIOPE，一种自顶向下、全程直接调用 LLM 而非聚类向量嵌入的框架，用于在大型非结构化语料（如 LLM 对话）中发现主题层级，并支持差分隐私。实验显示其在高隐私强度下效用优于现有基于嵌入的方法，作者同时引入新的效用评估指标。
arXiv cs.LG11 天前
★ 2
arXiv 论文：SHIP 差分隐私结构化洞察
论文将差分隐私（DP）洞察形式化为可复用的分析查询表示，提出 SHIP 方法，自动将查询映射到属性、构建分层混合分类体系并发布 DP 合成表。实验表明 SHIP 在问答性能与结构保真度上均优于现有隐私洞察基线。
arXiv NLP17 天前
★ 2
DP-MIND：百万 token 级差分隐私长上下文推理
研究者提出 DP-MIND，一种记忆引导框架，将差分隐私推理扩展到百万 token 上下文。它通过本地扰动输入、分块处理与紧凑记忆保留任务相关信息，并用强化学习优化记忆构建策略，在多个长上下文基准上优于现有 DP 与长上下文推理基线。
arXiv cs.AI21 天前
★ 2
HXAI：分布式能源系统中的分层隐私保护可解释AI
研究提出HXAI框架，在保护隐私的同时为电网级需求管理提供可解释分析。该框架包含本地模型（在安全环境中生成细粒度解释）和区域模型（聚合解释支持电网分析，并通过灵活隐私预算管理强制执行隐私）。实验表明，在差分隐私下保持解释的语义结构而非最小化数值误差，是实现可解释性的关键。
arXiv cs.AI28 天前
★ 2
差分隐私扩散模型的能源时序补全
论文针对能源时序缺失值补全，提出在固定阈值 DP-SGD 下将目标函数与梯度裁剪交互建模为优化问题，并设计时间步感知的目标条件化方法。方法采用 v-prediction 缓解后期低信噪比时间步的梯度放大，并引入扩散调度感知的动态加权。在五个真实能源数据集上，该方法在匹配隐私设置下持续优于 ε-pr…
arXiv cs.LG31 天前
★ 2
AnDE 分类器的联邦学习框架
该论文提出一种在分布式环境下训练平均 n 依赖估计器（AnDE）的联邦框架，支持任意依赖阶数 n，模型权重本地学习、全局聚合，无需传输语义上有意义的参数，从而提升隐私性。实验在 12 个离散数据集上显示，n≥1 的判别式模型稳定优于联邦朴素贝叶斯，且带差分隐私的聚合在精度损失有限的情况下有效。
arXiv cs.LG38 天前
★ 2
QuanText：保护文本数据共享中的数据集级秘密
自然语言数据集发布可能泄露数据源的全局属性（如性别、诊断或政治立场比例），而差分隐私对聚合属性保护较弱。作者提出 QuanText，一种免训练、与模型无关的数据发布机制，通过随机量化扰动秘密分布及相关属性分布，并重写文本样本以匹配选定分布。实验表明其在真实数据集上取得优于生成式基线的隐私-效用权衡。
arXiv cs.LG46 天前
★ 2
DP-SPIN：语义概念聚合的差分隐私框架
论文提出 DP-SPIN，一个可信策展框架，用于对独立于受保护记录的语义概念进行聚合测量与摘要。每条记录映射为概念上的稀疏非负向量，差分隐私机制发布含噪声的语义计划，语言模型仅基于该计划生成摘要，最终摘要通过后处理保持差分隐私。在 CFPB、Amazon 与 Yelp 数据集上验证了记录级与用户级…
arXiv cs.LG47 天前
★ 2
带裁剪与加性噪声的随机梯度方法几乎必然收敛分析
梯度裁剪与加性噪声是训练机器学习模型的标准技术，尤其在需要鲁棒性或隐私保证的场景，但裁剪引入偏差、噪声增加方差，使单条优化轨迹的长期行为难以刻画。作者证明在光滑性与一致有界随机梯度噪声假设下，带裁剪与加性高斯噪声的SGD（SGD-CN）在标准衰减步长条件下几乎必然收敛，并推广到动量变体。结果为理解…
arXiv cs.LG49 天前