技术
Regularization(正则化)
Regularization 是一种防止模型过拟合的技术,通过在损失函数中添加惩罚项来限制模型复杂度,从而提高泛化能力。典型方法包括 L1/L2 正则化、Dropout 和早停,广泛应用于深度学习和统计模型。
详细解释
正则化是机器学习的核心概念,旨在解决过拟合问题。L1 正则化(Lasso)产生稀疏解,L2 正则化(Ridge)使权重平滑。Dropout 在训练时随机丢弃神经元,迫使网络学习鲁棒特征。早停则根据验证集性能提前终止训练。这些技术通过偏差-方差权衡提升模型在未见数据上的表现。现代深度学习中,正则化常与数据增强、批归一化结合使用。
别名与相关写法
regularization
相关术语
Gating共现 3 篇
Representation Geometry共现 1 篇
Entropy Regularization共现 1 篇
Large Language Models共现 1 篇
Low-Rank Adaptation共现 1 篇
相关资讯
SPLICE:一致性正则化实现智能体知识与模型协同进化2026/10/23
RGR:表征几何正则化缓解LLM自我改进能力退化2026/10/12
熵正则化:面向可验证演示的交叉熵免费修正2026/9/28
基于 lp 正则的 LoRA 自动秩分配方法2026/9/25
CARE:扩散模型条件感知表示正则化2026/9/25
关系过正则化:基于图神经网络的AI文本检测新方法2026/8/28
研究用理由正则化缓解仇恨言论检测解释公平差异2026/10/19
LLM辅助正则化提升低数据迁移流预测2026/10/7