AI 事件专题★ 2

结构化输出推理加速

突破空间壁垒:结构化输出约束加速语言模型推理

10-08 12:00 首发·1 家媒体·1 篇报道·持续 1 天·学术研究
当事方:AApple
事件综述

论文研究语言模型结构化输出(JSON、)的格式约束问题,证明相关图问题可用极低内存判定,复杂度落在 ReachUL、LOGDCFL 等类中,空间低于 Savitch 定理的 O(log²n)。基于该构造的推理引擎在 M2 Pro 上运行 Qwen3.5-2B/4B,schema 约束抽取比 MLX+llguidance 快 1.2-1.3 倍,语法内存从最高 1.5GB 降至 3MB,16 个快 2.5 倍。

各方报道 1 篇

arXiv cs.AI·10-08 12:00★ 2
突破空间壁垒:结构化输出约束加速语言模型推理

论文研究语言模型结构化输出(JSON、工具调用)的格式约束问题,证明相关图问题可用极低内存判定,复杂度落在 ReachUL、LOGDCFL 等类中,空间低于 Savitch 定理的 O(log²n)。基于该构造的推理引擎在 M2 Pro 上运行 Qwen3.5-2B/4B,schema 约束抽取比 MLX+llguidance 快 1.2-1.3 倍,语法内存从最高 1.5GB 降至 3MB,16 个工具调用快 2.5 倍。

原文

关联

相关事件:
Apple 其他动态(30 篇,与该事件无直接关联)展开 ▾
11-01 10:10苹果 CEO 特努斯:不会为了做 AI 而做产品36氪11-01 05:41苹果 CEO 称不会为 AI 而 AI,强调产品导向TechCrunch AI11-01 04:30苹果 HomeView 预示后应用时代与 Siri 优先战略快公司10-31 09:37苹果市值5.03万亿美元反超英伟达重回全球第一36氪10-31 09:00苹果 Write with Siri 提示烦人,教你如何关闭快公司10-31 06:32苹果 Apple Intelligence 随 iOS 27.3 登陆中国,接入阿里 QwenThe Verge AI10-30 19:09开源课程 tiny-llm 教你从零实现 Apple Silicon 上的 LLM 推理Hacker News – LLM10-30 05:50研究者用苹果个人知识图谱与LLM策划绑架Hacker News – LLM10-27 21:50苹果为 Pages、Keynote、Numbers 加入 AI 助手,支持 MCPThe Verge AI10-27 12:36苹果 iOS 27.2 更新强化 Siri AI 记忆与多语言快公司10-23 21:00Xcode 27.2 推出智能体友好的 JSON 项目配置格式InfoQ AI10-22 02:17macOS 27 内置离线 LLM,可在终端通过 fm 命令调用Hacker News – LLM10-21 14:14苹果本月在韩国上线 Siri 生成式 AI 韩语支持36氪10-18 03:23苹果发布 RSI-Inference 评估自改进 LLM 推理智能体Hacker News – LLM10-16 04:16苹果与 Meta 合作,让 Muse AI 模型跑在 Mac 上Hacker News – AI10-15 17:43库克:苹果智能接入阿里千问,10月底中国发布测试版量子位10-15 14:52苹果 AI 国内上线进入最后阶段,阿里百度浮出水面量子位10-15 08:00苹果 MLX 框架结合 RDMA 实现 Mac Studio 分布式大模型推理Apple Machine Learning Research10-12 13:03用 iOS 27 的 Siri AI 描述创建快捷指令Hacker News10-12 09:00苹果 iOS 27 快捷指令支持自然语言生成,用户可 vibe-coding 自定义 Shortcuts快公司10-11 15:32苹果反向人才收购个性化音频初创 Huxe36氪10-11 13:29苹果研发不录像的 AI 安防摄像头 J45036氪10-11 03:52Aurora Silicon 讨论 AI 辅助逆向工程苹果 Mac 的现状Hacker News – AI10-11 03:50苹果收购播客初创 Huxe 团队并授权其技术TechCrunch AI10-10 09:00苹果 2027 款带摄像头 AirPods 或陷隐私争议快公司10-08 12:00AO-DA 架构发布:边缘 LLM 智能体抗上下文污染arXiv NLP10-07 00:29AI 硬件正在改写「录音」定义The Verge AI10-05 11:37苹果新 CEO 特努斯亲掌设计,10 月密集推新品36氪10-05 00:02苹果收紧macOS隐私控制应对AI代理兴起Hacker News – AI10-03 15:18苹果调整全盘访问权限以遏制AI代理滥用Hacker News – AI
结构化输出推理加速 最新进展 - 事件时间线 - 智讯 AI News