★ 1
arXiv 论文:预测掩码文本重建的语料采样分歧
论文研究若从同一人群再采集一份语料,预测器输出会变化多少,并推导出两独立语料预测器期望分歧的一阶公式。在 TinyStories、WikiText-103 与 CNN/DailyMail 上,语料扩大四倍分歧仅降 5–40%,远低于 1/n 预期的 75%。
arXiv NLP21 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文研究若从同一人群再采集一份语料,预测器输出会变化多少,并推导出两独立语料预测器期望分歧的一阶公式。在 TinyStories、WikiText-103 与 CNN/DailyMail 上,语料扩大四倍分歧仅降 5–40%,远低于 1/n 预期的 75%。