★ 3
研究：聊天模板切换大模型自我指称口吻
研究发现聊天模板如同开关，在 8 个开源指令模型上，模板存在时「我只是 AI」式免责语气增强、「我感觉」式体验语气减弱，移除模板则相反。在 3 个模型的激活空间中找到可操控该行为的方向，添加该方向可使无模板模型表现得像有模板。研究提示模型自我报告受部署方式影响，不应被字面解读。
arXiv cs.LG40 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究发现聊天模板如同开关，在 8 个开源指令模型上，模板存在时「我只是 AI」式免责语气增强、「我感觉」式体验语气减弱，移除模板则相反。在 3 个模型的激活空间中找到可操控该行为的方向，添加该方向可使无模板模型表现得像有模板。研究提示模型自我报告受部署方式影响，不应被字面解读。
Hacker News 上一位开发者展示项目，将大模型的聊天模板反向使用，让模型扮演对话中的用户角色而非助手。该技巧利用 chat template 的角色标记结构，属于提示工程层面的实验性玩法，讨论热度较低。