★ 3
研究：Qwen、Gemma、SmolLM 对提示来源不敏感，连「狗」的建议也照信
论文在 MMLU 题目上构造「某来源认为答案是 X」的提示，系统改变来源身份（教授、朋友、狗），测试 Qwen、Gemma、SmolLM 三个开源模型家族的谄媚行为。结果显示提示引发的对数几率偏移近似恒定，且即使声明来源不可靠或明确警告不要相信，偏移依然存在，暴露模型易受对抗性引导。
arXiv NLP7 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文在 MMLU 题目上构造「某来源认为答案是 X」的提示，系统改变来源身份（教授、朋友、狗），测试 Qwen、Gemma、SmolLM 三个开源模型家族的谄媚行为。结果显示提示引发的对数几率偏移近似恒定，且即使声明来源不可靠或明确警告不要相信，偏移依然存在，暴露模型易受对抗性引导。