★ 3
积分概率边界 IPB：在极端情形下更紧的分布差异界
论文提出积分概率度量（IPM）的非线性推广——积分概率边界（IPB），在稀有事件、安全失效与少数群体等极端情形下给出更紧的界。作者推导其基本性质与估计算法，并在对齐、无评判性能估计与公平性任务中验证，在真实生成建模任务上对少数群体公平性差距估计精度提升约 15 个百分点。
arXiv cs.LG2 天前
#公平性
共 23 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
研究：OpenAI 与 Anthropic 模型对黑人描述者拒评率达 46%
一篇 arXiv 论文用双瓮博弈测试 OpenAI 与 Anthropic 的前沿模型，发现模型会因参与者描述不同而拒绝评估其信息：黑人描述者被拒评率最高达 46%，白人描述者仅 9%。该偏差在平均信任度审计中不可见，且随推理强度上升、对措辞而非类别敏感。作者提出按多轮真实结果打分的方案，可将种族…
arXiv NLP9 天前
★ 3
研究：以用户为中心审计基准评测资源
论文提出以用户为中心的审计框架，区分贡献基准内容的用户与评测结果所代表的目标用户。对 16 个资源的审计发现，11 个文本基准中美国中心惯例占匹配信号的 62.4%-94.4%，图像文本资源的地理可见度与 GDP 份额强相关，且所有资源均未操作化目标用户语境。
arXiv NLP17 天前
★ 3
思考能提升公平性吗？推理 token 的双面效应
论文通过 QwQ-32B、DeepSeek-R1-Distill-Qwen-32B 与 Qwen3-32B 的思考/非思考消融实验，在 Adult、COMPAS、Credit 三个高风险决策任务上发现：思考对反事实公平性有非对称双重效应，既消除部分偏见翻转，也在接近饱和置信度下制造新翻转。九种模型…
arXiv cs.AI34 天前
★ 3
FedeRage：客户端漂移下的无分布假设联邦学习
论文刻画了参与概率完全未知时 FedAvg 实际求解的优化问题，并据此提出 FedeRage，将条件风险价值（CVaR）嵌入本地目标，形成分布鲁棒优化框架。该方法隐式提升高损失与低参与频率客户端的权重，每客户端仅增加一个标量，在凸与非光滑损失下取得 O(κ/√T) 收敛率，在三个异构基准上于准确率…
arXiv cs.LG41 天前
★ 3
双智能体简历筛选研究：GPT-5.5与Claude Opus 4.7对比
论文研究招聘中雇主侧与候选人侧双智能体交换证据并更新判断的简历筛选流程，在 600 组构造的简历-岗位对上用 GPT-5.5 与 Claude Opus 4.7 对比。双智能体筛选推进更多申请，且并非一致放宽——会拒绝单次调用通过的申请，决策双向改变。研究还发现双智能体独有选择在新运行中复现率低于…
arXiv cs.AI44 天前
★ 3
提问：为何AI会给出带有种族与性别偏见的回答？
有用户反映，Google AI 模型在面对不同宗教、族裔或性别对象时给出明显不一致的安全建议，例如对穆斯林或男性场景建议报警，而对其他群体则态度温和。该讨论指向训练数据中存在的偏见与网络内容对模型行为的放大效应。
Hacker News – AI48 天前
★ 3
Fed-Equilibrium 框架平衡临床联邦学习公平与效率
联邦学习在多中心临床网络中面临「知识主导」问题，即数据量大的中心压制少数社区节点，将其独特临床模式视为异常。作者提出 Fed-Equilibrium 框架，通过两阶段梯度控制级联实现从简单防御到拓扑均衡的范式升级：第一阶段用余弦相似度漏斗过滤恶意噪声，第二阶段通过识别最优帕累托拐点主动调节贡献。在…
arXiv cs.LG48 天前
★ 3
超越结果差距：LLM多智能体决策系统的过程感知公平性诊断
SCOPED-Hiring是一个过程感知的公平性诊断流程，用于LLM招聘多智能体系统。它揭示了平衡的最终录用率可能掩盖轨迹中的不公平，并通过针对性修复减少72.3%的负担。
arXiv cs.AI59 天前
★ 2
研究：单一置信阈值下非英语语言自动处理覆盖率显著偏低
论文在 51 种语言、1000 条 MASSIVE 样本上测试三家厂商的分类接口，阈值设为 0.9。结果显示即使英译与其他语言都答对，英文版本越过阈值的概率平均高 8.6 至 11.7 个百分点，其他语言自动处理覆盖率均低于英文。将输入翻译成英文可大幅缩小差距，作者建议按语言分别报告运行阈值下的覆…
arXiv NLP2 天前
★ 2
Floor It, Then Fill It：十亿用户规模创作者生态仿真与公平推荐
论文提出基于真实平台分布的用户仿真框架，建模约 4.2 万名创作者及其 12 周内的观众交互，用于评估预算化多臂老虎机形式的公平曝光分配策略。带保底的内容曝光目标与曝光均衡差奖励可保证每周 90% 曝光目标达成，小创作者自然触达每周增长约 33%，并分析 Sim2Real 差距提出验证协议。
arXiv cs.LG2 天前
★ 2
研究对医学影像量子机器学习开展敏感子群公平性审计
论文对医学影像中的经典与量子分类器进行公平性审计，覆盖 DDI 皮肤病变（Fitzpatrick 肤色）与 CheXpert 胸片（年龄组）两个场景。结果显示量子分类器可在总体性能上具竞争力，但仍存在子群差异，且部分差异最小的配置因整体判别力下降而不具临床可接受性。所有量子模型均为经典模拟，作者不…
arXiv cs.LG2 天前
★ 2
调研揭示医护对医疗 AI 算法偏见的认知差异
论文基于对临床与行政等不同岗位医护人员的问卷与访谈，研究算法偏见、感知公平性与 ML 算法接受度之间的关系。结果显示，医护对偏见成因、算法评估标准、公平感知与缓解路径的看法随岗位、任务与算法特性而异。作者呼吁更多研究以保障医疗 AI 的公平性。
arXiv cs.AI2 天前
★ 2
研究：大模型道德判断能否逼近罗尔斯「原初立场」
论文探讨大模型能否近似罗尔斯「原初立场」式的整合性公平视角，即不排除社会身份而是计算性地纳入其多样性。作者对比人类、基础模型与前沿/微调模型在经典道德困境上的判断，并系统改变身份关系与罗尔斯式身份约束。结论推测 AI 或可在人类公平正义判断中扮演辅助角色，但人类是否接受其建议仍存疑。
arXiv cs.AI24 天前
★ 2
知识追踪模型掌握阈值不可通用
论文考察六个知识追踪模型在四个公开教育数据集上的表现，评估 0.50 至 0.99 共 12 个掌握阈值。结果显示贝叶斯知识追踪对阈值变化不敏感，而神经模型随阈值升高变得更具选择性，因为二者输出的含义不同（潜在掌握概率 vs 下一题答对概率）。作者指出阈值应随模型或教学优先级变化重新校准，并综合考…
arXiv cs.LG30 天前
★ 2
多实例强化学习中的公平与可解释性
研究将基于强化学习的多实例学习、对抗去偏与偏好条件超网络结合，用于学生风险预测。结果显示超网络扩展出现模式坍缩，偏好权重难以有效控制公平性与性能的权衡，说明仅靠偏好条件化不足以保证可控多目标行为。
arXiv cs.LG30 天前
★ 2
AI如何让可疑的职场决策显得公平
文章探讨 AI 如何被用于包装或合理化存在争议的职场决策，使其在表面上显得公正合理。这揭示了 AI 在人力资源与组织决策中的伦理风险，以及人类监督环节可能被弱化的问题。
Hacker News – AI31 天前
★ 2
FARE：面向金融内容公平曝光的深度强化学习框架
该论文提出 FARE（Fair Ranking Executor），一个模块化的不确定性感知执行层，可将任意黑盒 CTR 模型的预测转化为满足 Share of Voice（SOV）公平约束的排序，无需重新训练底层模型。作者将 SOV 约束排序建模为类似算法交易中受限交易执行的深度强化学习问题，并…
arXiv cs.LG33 天前
★ 2
对未观测混杂稳健的风险评分学习
论文研究在存在未观测混杂的历史观测数据中学习风险评分的问题，指出逆倾向加权（IPW）在决策依赖未记录信息时会系统性低估特定人群。作者将倾向权重视为由可观测数据与领域知识确定的不确定性集合，结合因果推断敏感性分析与 Wasserstein 分布鲁棒优化，并转化为指数锥规划求解。在半合成数据上校准度最…
arXiv cs.LG38 天前
★ 2
表格基础模型医疗场景比较评估框架
论文提出一个比较评估框架，从泛化性、隐私保护、数据需求、可扩展性、可解释性与公平性六个临床维度对表格基础模型（TFM）打分排序。框架将各维度拆解为可测子项，并可组合为超级指标。作者以缺铁筛查与心衰预测两个医疗用例演示，并给出按架构分类的 45 个 TFM 图谱。
arXiv cs.LG40 天前
★ 2
FairLMs：语言模型公平性一站式工具库
研究发布FairLMs Python库，通过显式声明模型能力与输入需求，整合33项公平性指标、14个缓解组件与14项数据集诊断。声明在执行前校验、结果携带配置信息，使不同方法可在统一协议下比较并扩展至新模型与数据集。
arXiv cs.LG41 天前
★ 2
FairCompressAgent：面向 FPGA 部署的公平感知压缩智能体
公平感知模型压缩需在精度、公平性与部署成本间权衡，方法组合或需求变更时决策更难。论文提出 FairCompressAgent，通过统一算子接口整合公平感知剪枝、增量量化与稀疏低秩分解，由语言模型规划器依据模型画像与实测结果选择配置。在 Fitzpatrick-17k 与 VGG-11 上，精度约束…
arXiv cs.AI45 天前
★ 2
漂移下模型重训练评估：累积子群差异配对比较
研究比较了定时、损失触发与子群差距触发三种重训练策略与保留初始模型在延迟标签下的子群误差差异。模拟显示三种策略均降低平均累积差异，但有限窗口与总体比较仅在 69%–92% 轨迹上一致。ACS 回放中人员加权反转了种族假阳性率比较，提示策略比较需明确评估总体。
arXiv cs.LG52 天前