#激活操控

arXiv 用合成故事构建 1036 个对齐概念向量并开源

论文提出务实的特征向量构建法：围绕 AI 安全与对齐相关概念生成合成「概念—对立概念」故事对，以平均激活差作为特征向量。作者用 200 万条多语言多体裁故事扩展到 1036 个概念并公开数据。在三个模型家族六个模型上，特征向量可跨对话与网页文本泛化，并能在注入激活时因果操控模型行为。