#算法推理

研究揭示循环 Transformer 逐迭代执行算法步骤机制

论文研究权重共享的循环 Transformer 在深度受限算法任务上的机制，以有向置换遍历为测试任务。发现存在最小有效深度，超过后权重绑定程度成为决定因素：四层块迭代八次的循环模型稳定解题，同有效深度的非绑定模型则失败。探针显示循环模型逐节点推进形成阶梯，可视为迭代式程序学习器。