★ 3
LongGuard：长上下文安全护栏失效分析与缓解
论文提出LongGuard框架，评估、机制分析并缓解长上下文安全护栏失效问题。研究发现，随着上下文长度增加，安全护栏的召回率显著下降，并归因于不安全信息的稀释。作者提出两种无需训练的缓解方法和部署协议，在多个基准上平均提升22%和13%。
arXiv cs.AI63 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文提出LongGuard框架，评估、机制分析并缓解长上下文安全护栏失效问题。研究发现，随着上下文长度增加，安全护栏的召回率显著下降，并归因于不安全信息的稀释。作者提出两种无需训练的缓解方法和部署协议，在多个基准上平均提升22%和13%。