★ 2
arXiv 论文用属性测试发现 Softmax 与交叉熵数值问题并提出更稳健实现
论文用 Hypothesis 属性测试复现了 Barron 等人指出的 PyTorch、JAX 等主流库中 softmax 与交叉熵的数值问题，并额外发现一个边界失败案例。作者提出更稳健的 softmax 实现，支持因果注意力掩码，并开源了代码与测试。
arXiv cs.LG5 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文用 Hypothesis 属性测试复现了 Barron 等人指出的 PyTorch、JAX 等主流库中 softmax 与交叉熵的数值问题，并额外发现一个边界失败案例。作者提出更稳健的 softmax 实现，支持因果注意力掩码，并开源了代码与测试。