★ 2
研究提出 watermarkability 指标，降低水印对困惑度影响
论文提出 watermarkability 概念，量化语言模型与基于 logit 的水印所要求词元集合之间的兼容性，并用 KL 散度定义水印成本。作者设计两阶段方法：先训练目标集合条件化的低秩适配器，再用闭式控制器施加最小 logit 偏置，在 OPT-125M 与 Qwen3-8B 上显著降低困…
arXiv NLP14 天前
#困惑度
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
因果潜在工作区：为循环 Transformer 增加前缀状态交换
论文提出因果潜在工作区 Transformer，采用锚定四轮共享深度架构，每个位置将门控向量写入前缀专属潜在槽，并在下一次共享块应用前检索内容寻址摘要，与因果自注意力互补。在三个字节级语料、三个随机种子与两个匹配参数预算下，六种设置中五种取得最佳平均留出困惑度；101.71M 参数时在 WikiT…
arXiv NLP14 天前
这个主题的相关资产
相关公司阿里巴巴1