★ 3
AutoHebb:可零样本推理与持续学习的自修改神经网络
论文提出 AutoHebb,一类在线学习前馈网络,通过内部产生的「神经调质」全局信号门控三因子 Hebbian 局部学习规则。用元学习搜索固定权重后,网络在零样本推理与持续学习任务上优于现代学习模型。消融显示元学习、Hebbian 可塑性与自主学习控制三者缺一不可。
arXiv cs.LG4 小时前
共 3 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出 AutoHebb,一类在线学习前馈网络,通过内部产生的「神经调质」全局信号门控三因子 Hebbian 局部学习规则。用元学习搜索固定权重后,网络在零样本推理与持续学习任务上优于现代学习模型。消融显示元学习、Hebbian 可塑性与自主学习控制三者缺一不可。
论文为具备「任意任务推理」(ATI,类似零样本推理)能力的基础模型给出形式化框架与数学定义,引入「任务兴趣空间」概念。作者证明所有 ATI 基础模型可经通用任务归约分解为编码器、模型与解码器三部分,并将误差分解为设计项与已实现模型超额项。最后提出生成式与判别式两类原型实现路径,并以 5 个真实案例…
研究提出角色增强零样本思维链(RE-ZS-CoT)提示框架,将领域专家角色系统性地融入 LLM 推理,无需任务示例。在 20 个模型与 7 个基准上测试静态与动态角色选择,性能最高提升 44 个百分点。消融显示不匹配的角色会损害表现,强调任务与角色对齐的必要性。