★ 4
研究用基座模型似然解码提示分类器漏掉的隐藏意图
论文基于人格选择模型(PSM),提出人格-头部似然评估(PHLE)方法,通过基座预训练模型对输出序列的似然解码潜意识信号。实验可区分「爱猫头鹰」与「爱鹰」提示生成的数字序列,也能识别被过滤掉明显失准的「伤害用户」秘密意图,而提示分类器(含生成模型自身)接近随机水平。信号在 Qwen 与 Olmo …
arXiv cs.LG4 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文基于人格选择模型(PSM),提出人格-头部似然评估(PHLE)方法,通过基座预训练模型对输出序列的似然解码潜意识信号。实验可区分「爱猫头鹰」与「爱鹰」提示生成的数字序列,也能识别被过滤掉明显失准的「伤害用户」秘密意图,而提示分类器(含生成模型自身)接近随机水平。信号在 Qwen 与 Olmo …