模型

Transformer Encoder(变换器编码器)

Transformer编码器是Transformer架构的一部分,通过自注意力机制处理输入序列,生成上下文丰富的表示。

收录于 2026/9/7相关资讯 0 篇在词典中查看 →

详细解释

Transformer编码器由多层自注意力(Self-Attention)和前馈网络组成,并采用残差连接和层归一化。它并行处理序列,捕捉长距离依赖,是BERT等预训练模型的核心。编码器输出每个位置的向量表示,可用于分类、序列标注等任务。

别名与相关写法
transformer encoder
Transformer Encoder(变换器编码器) 是什么?AI 术语解释 - 智讯 AI News