★ 3
arXiv 论文实测 11 个提示注入防护模型：法律合同误报率最高 92.39%
研究团队在两个法律合同语料库上评测了 11 个开源提示注入防护模型，发现文档级误报率最高达 92.39%，其中两个防护模型在配对 AUC 上甚至低于随机水平，而一个仅含五条正则的基线未被任何防护模型帕累托支配。作者还发现「越权范围声明」这一威胁类别上所有防护模型得分均为零，并提出用中端模型初筛、前…
arXiv cs.AI10 小时前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究团队在两个法律合同语料库上评测了 11 个开源提示注入防护模型，发现文档级误报率最高达 92.39%，其中两个防护模型在配对 AUC 上甚至低于随机水平，而一个仅含五条正则的基线未被任何防护模型帕累托支配。作者还发现「越权范围声明」这一威胁类别上所有防护模型得分均为零，并提出用中端模型初筛、前…