Emergent Behavior

涌现行为最早在大型语言模型中被广泛观察到。研究者发现，当模型参数量和训练数据量超过某个阈值时，模型会突然掌握一些未被专门训练的任务，例如多步算术、逻辑推理和跨语言翻译。这一现象与规模定律相关，但也引发争议：部分能力可能只是评估指标不完善造成的假象。理解涌现行为对预测模型能力和安全评估至关重要。