★ 3
研究提出方法在智能体内核生成中强制批次不变性
论文指出 LLM 服务系统动态批处理会使缺乏批次不变性的 GPU 内核在相同输入下产生不同数值输出，在 83 个可批处理发布产物中发现 19 个确认违规。作者提出结合契约引导静态依赖分析与跨批次位级一致性动态验证的插件，将批次不变性通过率从 67.6% 提升到 91.9%，同时保留 91.8% 的…
arXiv cs.AI5 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文指出 LLM 服务系统动态批处理会使缺乏批次不变性的 GPU 内核在相同输入下产生不同数值输出，在 83 个可批处理发布产物中发现 19 个确认违规。作者提出结合契约引导静态依赖分析与跨批次位级一致性动态验证的插件，将批次不变性通过率从 67.6% 提升到 91.9%，同时保留 91.8% 的…