★ 1
新方法用势函数高效估计自回归语言模型期望
一篇 arXiv 论文提出利用采样过程中自然产生的下一 Token 条件概率，通过「势函数」分解测试泛函，从而更高效地估计自回归语言模型下的期望值。作者推导了势函数降低估计方差的条件，并在多个估计量上展示了显著方差下降。该方法有望降低语言模型评估与推理中的计算成本。
arXiv cs.AI24 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
一篇 arXiv 论文提出利用采样过程中自然产生的下一 Token 条件概率，通过「势函数」分解测试泛函，从而更高效地估计自回归语言模型下的期望值。作者推导了势函数降低估计方差的条件，并在多个估计量上展示了显著方差下降。该方法有望降低语言模型评估与推理中的计算成本。