★ 2
论文提出安全探针缩放定律：可用模型规模预测探针误差
一篇 arXiv 论文研究语言模型安全探针的性能能否提前预测。作者构建六个规模与难度足够的新安全数据集，在五个模型家族的 20 个基座模型上训练两种探针架构，标签量从 32 到 100 万。结果显示探针误差遵循两条简单缩放定律：最低可达误差随模型规模呈幂律下降，误差随标签数增加而逼近下限。该定律可…
arXiv cs.AI10 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
一篇 arXiv 论文研究语言模型安全探针的性能能否提前预测。作者构建六个规模与难度足够的新安全数据集，在五个模型家族的 20 个基座模型上训练两种探针架构，标签量从 32 到 100 万。结果显示探针误差遵循两条简单缩放定律：最低可达误差随模型规模呈幂律下降，误差随标签数增加而逼近下限。该定律可…