★ 3
面向社会模拟的 LLM 智能体解释与操控
论文比较了提示词操控、SAE 特征引导与探针方向引导三类方法，用于解释和操控 LLM 智能体在社会模拟中的行为。实验围绕风险偏好、利他主义、发散创造力与产品创新四类经济与创造性任务展开。结果显示 SAE 与探针方法通常优于基础提示词方法，二者可构成社会科学家解释与引导智能体的有效流水线。
arXiv cs.LG47 天前
#行为引导
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
研究：Llama-3.1-8B 激活探针可检测并引导欺骗与谄媚行为
一篇 arXiv 论文在 Llama-3.1-8B-Instruct 上系统比较了激活探针的设计选择，包括两种估计器（均值差与逻辑回归）和三种 token 池化方式，并覆盖欺骗、高风险意识、谄媚三种行为。研究发现「逻辑回归擅长检测、均值差擅长引导」的读写分离规律在欺骗与高风险行为上成立，但在谄媚行…
arXiv cs.LG10 天前
这个主题的相关资产
相关公司Meta AI1