技术
Cross-Entropy
衡量两个概率分布差异的损失函数,常用于分类任务中优化模型输出。
详细解释
交叉熵(Cross-Entropy)源自信息论,度量真实分布与预测分布之间的差异。在机器学习中,交叉熵损失函数结合softmax广泛用于分类任务,通过最小化交叉熵使预测分布逼近真实分布,是训练神经网络最常用的损失函数之一。
别名与相关写法
cross entropy
衡量两个概率分布差异的损失函数,常用于分类任务中优化模型输出。
交叉熵(Cross-Entropy)源自信息论,度量真实分布与预测分布之间的差异。在机器学习中,交叉熵损失函数结合softmax广泛用于分类任务,通过最小化交叉熵使预测分布逼近真实分布,是训练神经网络最常用的损失函数之一。