技术
Generalization(泛化)
泛化指模型在未见过的新数据上表现良好的能力,是机器学习的核心目标。它解决的是过拟合问题,即模型在训练集上表现好但测试集差。典型应用包括正则化、Dropout、数据增强,代表理论有VC维和Rademacher复杂度。
详细解释
背景:泛化误差是模型在训练集和真实分布上的性能差距,是评估模型实用性的关键。技术说明:经典学习理论用假设空间复杂度(如VC维)解释泛化,但深度网络过参数化却泛化良好,引发了对隐式正则化、平坦极小值等新理论的研究。实践中,提升泛化的技术包括L1/L2正则化、Dropout、批归一化、数据增强和早停。此外,迁移学习和元学习通过利用相关任务知识来提升泛化。
别名与相关写法
generalization
相关术语
相关公司
相关资讯
arXiv 研究 LLM 分布对齐及其泛化特性2026/10/26
UniGuard:0.6B 多视图护栏模型跨接口安全泛化,F1 提升 45 分2026/10/23
尺寸泛化的无维度缩放定律:指数分离2026/10/15
研究提出人格层级模型解释LLM微调泛化2026/10/8
电路对齐分数可预测OOD泛化能力2026/9/29
Grokking 记忆到泛化转变的量化规律2026/9/12
arXiv 论文提出关系可辨识假说解释多语言模型跨语言泛化2026/10/30
arXiv 研究语言模型层级泛化能否跨语言迁移2026/10/23