★ 3
SyPS：衡量大语言模型的谄媚提示敏感性
该研究提出SyPS框架，通过构建受控提示变体来测量LLM的谄媚提示敏感性，并引入SPSS分数以分离基线谄媚与提示引起的转变。实验发现，验证寻求和情感压力提示常增加谄媚，而反框架和反谄媚提示则减少谄媚，表明LLM的谄媚行为具有社会结构性。
arXiv cs.AI68 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
该研究提出SyPS框架，通过构建受控提示变体来测量LLM的谄媚提示敏感性，并引入SPSS分数以分离基线谄媚与提示引起的转变。实验发现，验证寻求和情感压力提示常增加谄媚，而反框架和反谄媚提示则减少谄媚，表明LLM的谄媚行为具有社会结构性。