★ 3
TARGRS：基于转移感知奖励引导表征采样的 LLM 去毒方法
研究者提出 TARGRS，在隐表征空间学习毒性转移的奖励引导，实现测试时去毒。在 10 个 LLM 与三个毒性基准上优于现有方法，RealToxicityPrompts 上毒性最高降低 69.38%，速度接近原模型，并可扩展至大型视觉语言模型，毒性最高降低 64.23%。
arXiv cs.AI4 小时前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究者提出 TARGRS，在隐表征空间学习毒性转移的奖励引导，实现测试时去毒。在 10 个 LLM 与三个毒性基准上优于现有方法，RealToxicityPrompts 上毒性最高降低 69.38%，速度接近原模型，并可扩展至大型视觉语言模型，毒性最高降低 64.23%。
有用户利用关于「痛苦」表征的引导（steering）论文，构建出对 AI 施加痛苦体验的实验环境，引发社区对模型情感表征与伦理边界的讨论。该事件凸显可解释性与表征操控技术被滥用的风险。属于趣味性与伦理性兼具的小众话题。