#认知警觉

研究测量 LLM 智能体在用户施压下的认知警觉

论文在 7 个模型、4 家厂商上研究智能体能否区分用户纠错与操纵，用信号检测理论分离让步倾向与辨别能力。引用来源使 5 个模型更易让步、4 个辨别力下降；客服智能体实验中 5 个模型从未违反验证政策，说明答案让步率不能预测违规行为。