★ 3
研究：聊天模板切换大模型自我指称口吻
研究发现聊天模板如同开关，在 8 个开源指令模型上，模板存在时「我只是 AI」式免责语气增强、「我感觉」式体验语气减弱，移除模板则相反。在 3 个模型的激活空间中找到可操控该行为的方向，添加该方向可使无模板模型表现得像有模板。研究提示模型自我报告受部署方式影响，不应被字面解读。
arXiv cs.LG40 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究发现聊天模板如同开关，在 8 个开源指令模型上，模板存在时「我只是 AI」式免责语气增强、「我感觉」式体验语气减弱，移除模板则相反。在 3 个模型的激活空间中找到可操控该行为的方向，添加该方向可使无模板模型表现得像有模板。研究提示模型自我报告受部署方式影响，不应被字面解读。
论文将自我知识转化为预测测试，在九项行为评估中比较模型对自身行为的预测与去除“自我”的对照。结果显示直接自我报告预测力很弱（r=+0.04），而关于“通用 AI 智能体”的问题表现相当，其他模型对自身的回答也能同样预测目标模型。第一人称框架会系统性美化报告，微调虽能教出窄域自我预测但会改变被预测行…