#参数内记忆

SKIM 方法让冻结语言模型将对话写入参数实现无外部记忆召回

论文提出自键控参数内记忆（SKIM），让模型为每轮对话自生成多个问题并写入参数作为检索键，后续用户提问可直接从参数中召回答案。在五个语言模型上测试，多数存储对话轮次可被正确召回，无需任何外部存储。该工作探索了把对话记忆内化到模型权重的可行性。