opaque recurrence（不透明循环）

不透明循环描述RNN等循环结构中，信息在时间步间传递时内部状态变化不可见，难以追溯输入对输出的影响。背景：RNN广泛用于序列建模，但其黑箱特性阻碍了信任和调试。技术说明：循环单元（如LSTM、GRU）的门控机制进一步增加复杂性。为缓解，研究者引入注意力权重可视化、探针分析和可解释性正则化。代表工作如通过注意力解释机器翻译，或使用LRP分析循环网络。该术语强调循环计算缺乏透明度的挑战。