arXiv NLP·9 天前★ 3

UniGuard:0.6B 多视图护栏模型跨接口安全泛化,F1 提升 45 分

原文标题:UniGuard: Multi-View Guardrail Learning for Cross-Interface Safety Generalization

重要度 3/5 · AI 综合评估报道影响力与新鲜度,4–5 分为高价值资讯。

AI 智能摘要

论文提出 UniGuard 训练框架,从同一安全案例的多种语义对齐视图学习接口不变的安全表征,并将 1000 个公开案例转为提示、回复、、轨迹等视图构建 UniGuard-FT 数据集。0.6B 的 UniGuard-0.6B 在 ATBench、PolicyGuardBench、DynaBench 上平均 F1 提升 45.12 分,校准误差降低 35.41 分,可与 -Sonnet-4.5、-5.2 等更大护栏模型竞争。

深读 · 结论先行AI 生成展开看要点与影响 ↓

0.6B 的 UniGuard 跨接口安全泛化,三个基准平均 F1 提升 45.12 分。

  • •把 1000 个公开安全案例转成提示、回复、多轮对话、智能体轨迹、轨迹五种视图
  • •用分类、监督对比学习与非对称置信校准三类损失训练
  • •在 ATBench、PolicyGuardBench、DynaBench 上平均 F1 提升 45.12 分,校准误差降低 35.41 分
  • •仅 0.6B 且只用合成数据训练,仍可与 Claude-Sonnet-4.5、GPT-5.2 等更大护栏模型竞争

为什么重要:护栏模型换接口就失效是部署中的实际问题,小模型跨接口泛化意味着更低成本的安全层选择。

以上深读由 AI 依据标题/摘要/正文节选生成,仅供参考;事实以原文为准。

阅读原文 +0
AI 处理过程展开/收起
原始标题:UniGuard: Multi-View Guardrail Learning for Cross-Interface Safety Generalization
AI 中文标题:UniGuard:0.6B 多视图护栏模型跨接口安全泛化,F1 提升 45 分
来源:arXiv NLP · 发布于 9 天前
分类:行业动态 · AI 重要度:★ 3(3)
标签:护栏模型 / AI安全 / 智能体 / 对比学习
关键词:护栏模型 / AI 安全 / 智能体安全 / UniGuard / 安全评测
AI 处理:2026/10/23 12:01:41 · 模型 deepseek-chat · 规则版本 2026-10-21.1
AI 生成以上内容由 AI 自动生成:中文标题、摘要、分类与重要度;同一事件的多家报道会自动归并展示。 内容仅供参考,可能存在偏差,请以原文为准, 不构成任何投资或专业建议。
版权归原作者与原发布平台所有;若涉及侵权或信息错误,请在举报与侵权投诉页反馈,我们会及时处理。
每天 09:30,3 条 AI 圈真正重要的变化,免费订阅 →

相关推荐

The Verge AI·27 天前★ 5

AI接管数学界引发的争议风波

AI 摘要过去一年,OpenAI、Anthropic等实验室宣称在多个长期数学难题上取得突破,甚至解决了一个千禧年大奖难题,但发布方式引发数学界强烈反弹。OpenAI成立独立数学家顾问小组以修复关系,却被指组织混乱、缺乏透明度,数学家担忧即将到来的成果洪流会冲击整个学科。

#行业动态
TechCrunch AI·34 天前★ 5

AMD将以82亿美元收购李飞飞的World Labs

AI 摘要AMD宣布以约82亿美元全股票交易收购李飞飞联合创立的AI研究实验室World Labs。李飞飞将出任AMD执行副总裁兼首席科学家,向CEO苏姿丰汇报。该交易预计年底完成,旨在强化AMD围绕新兴模型开发AI硬件、软件与系统的能力。

#行业动态
The Verge AI·34 天前★ 5

AMD逾80亿美元收购AI公司World Labs

AI 摘要AMD宣布以约82亿美元全股票交易收购李飞飞联合创立的AI研究实验室World Labs。World Labs于2024年成立,数月内估值达10亿美元,2025年推出世界生成模型Marble。李飞飞将任AMD执行副总裁兼首席科学家,团队继续专注AI模型研究。

#行业动态
Last Week in AI·45 天前★ 5

上周AI要闻:纳维-斯托克斯证明争议与前沿节奏

AI 摘要OpenAI 声称完成千禧年大奖难题之一纳维-斯托克斯方程的证明,但与数学界爆发争执,引发对其成果真实性的质疑。Anthropic CEO 呼吁放缓前沿模型开发节奏,同时多位人士的灭绝风险警告推动监管呼声升温。本期还涵盖 AI 滥用等议题。

#行业动态
UniGuard:0.6B 多视图护栏模型跨接口安全泛化,F1 提升 45 分 - 智讯 AI News