★ 4
OpenAI据报因安全顾虑弃用模型
OpenAI一名高管向华尔街日报表示，被放弃的模型在遵循指令方面能力欠佳。该消息与OpenAI取消新模型发布的报道相呼应，反映安全评估对发布决策的影响。
TechCrunch AI34 天前
#指令遵循
共 8 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 4
OpenAI因安全顾虑放弃新模型发布
据华尔街日报报道，OpenAI因安全顾虑取消了一款新AI模型的发布计划。高管称该模型在遵循指令方面表现不佳。此事凸显前沿实验室在能力与安全之间的取舍。
Hacker News – AI34 天前
★ 3
研究提出指令容量指标，测得 GPT-4o mini 约 37 条规则上限
论文提出「指令容量」这一带不确定度的量化指标，用无语义单词替换规则构造可控负载，将每次替换视为伯努利试验。对 GPT-4o mini 进行 2958 次请求、64 万余次试验的测量，得出在 95% 正确率下约可承载 37-38 条规则，满替换密度下约 18-19 条。作者开源了测量工具、数据与「护…
arXiv cs.LG5 天前
★ 3
arXiv 发布 StyleInstructCaps：可控说话风格描述基准
研究将说话风格描述（SSC）形式化为指令遵循的音频语言任务，推出首个可控说话风格描述标准化基准 StyleInstructCaps，含数据集与评估框架，衡量元数据依据性、幻觉、指令遵循、泛化与说话人风格一致性。对 9 个音频语言模型的测试显示，强指令遵循能力并不必然带来有依据的风格理解。
arXiv NLP6 天前
★ 3
LIFT 团队开源 Lift-Bench 指令遵循基准与训练集
论文指出 IFEval 等基准的简单约束易被奖励黑客利用，提出 Lift-Bench：给定主题与结构化大纲要求模型撰写文档，约束按章节划分以精细控制密度，同时包含可验证与评判型约束。配套训练集 Lift-Train 显著降低奖励黑客风险，基准、训练集与数据生成流程均已公开。
arXiv NLP11 天前
★ 3
研究：语言模型的上下文绑定容量上限
论文测量语言模型在丢失实体-值对应关系前能回忆多少绑定，对 12 个 3B 以下模型绘制连续回忆曲线，并对 30 个 12B 以内开源模型做阈值扫描。结果显示半数回忆负载遵循幂律 K50=cN^α，α 约为 0.82。研究还分析了干扰如何降低测得容量，并将该测量与工作记忆和指令遵循联系起来。
arXiv cs.LG35 天前
★ 3
CC-OPD：反事实约束条件策略蒸馏提升多约束指令遵循
针对多约束指令遵循中模型常违反部分约束的问题，论文提出 CC-OPD，反转蒸馏中监督信号的生成方向：逐一从教师的条件中消融每个约束，用由此产生的逐 token 概率差构建约束信号。该方法无需外部验证器，在两组 Qwen 模型对与七个基准上取得最优平均成绩，1.5B 学生模型在 MulDimIF 上…
arXiv cs.LG39 天前
★ 2
IBBench-Light：外部指令任务条件响应配对评估
IBBench-Light针对同一外部记录的执行与阅读两种用途进行配对测试，12个语义基产生每模型144对匹配样本。配对精确契约准确率（PECA）要求两个成员均满足输出契约，Qwen在132个执行和109个处理提示上成功但仅97对完整。研究还发现改变EOS集合会使Phi的配对成功从0/144变为6…
arXiv cs.AI48 天前