★ 3
研究：GPT-4o 在 ADHD 自诊断中受性别线索影响
论文将情境关联测试（CAT）改造后用于零样本 ADHD 自诊断场景，考察 GPT-4o 是否对性别化关联作出反应。结果显示显式性别线索会放大某些 ADHD 亚型关联，隐式线索则接近真实分布，提示模型的偏见缓解机制可能过度校正。研究强调评估 LLM 医疗自诊断中的性别偏见需关注模型编码的人口学关联。
arXiv NLP6 天前
#LLM 安全
共 6 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
ARIA：基于稀疏自编码器的测试时遗忘方法
论文提出 ARIA，一种测试时机器遗忘方法，不改动模型权重，而是利用稀疏自编码器（SAE）潜变量训练轻量线性检测器，在生成进入遗忘相关状态时进行可解释干预。在 TOFU、R-TOFU、WMDP 上，ARIA 在遗忘与保留的权衡上优于基于权重的基线，且对三种后遗忘对抗攻击保持稳健。研究还指出部分保留…
arXiv cs.LG47 天前
★ 2
MCRP 提出：抗改写 LLM 生成文本检测新方法
针对 LLM 输出常被改写、润色、扩写后削弱检测线索的问题，论文提出 MCRP 冻结 LLM 探测框架，通过引入、移除或替换语义匹配条件，比较 token 损失与注意力耦合，再训练轻量随机森林分类器。在改写、润色、扩写场景下达到 93.97% F1 与 96.24% ROC-AUC，分别领先最强基…
arXiv NLP3 天前
★ 2
arXiv 论文：LLM 交付物修订痕迹导致意外信息泄露
一篇 arXiv 论文研究 LLM 生成交付物的修订轨迹（revision traces）可能造成非预期的敏感信息泄露，提示在文档协作与版本历史中需关注隐私风险。属于学术研究类成果。
Hacker News – LLM7 天前
★ 2
Aura v0.1.0：LLM 安全确定性威胁情报
Aura v0.1.0 发布，提供针对 LLM 安全的确定性行为威胁情报，包含触发词提取、可审计数学与自愈分析引擎。该项目旨在提升大模型安全防护的可解释性与可靠性。
Hacker News – LLM16 天前
★ 1
用户吐槽 LLM 聊天机器人是安全噩梦
一名 Reddit 用户在 BetterOffline 板块分享个人经历，称 LLM 聊天机器人存在严重安全隐患。该帖在 Hacker News 上被转发，引发少量讨论。
Hacker News – LLM26 天前
这个主题的相关资产
相关公司深度求索（DeepSeek）1