#成本优化

共 51 篇相关资讯,按重要度与时间排序,每 3 小时更新。

★ 4

国产旗舰模型成本仅 Opus 5 八分之一

一款国产旗舰模型瞄准 AI 编程与金融等场景,单次调用成本仅为 Opus 5 的八分之一,并跻身 AA 榜单全球前三。该模型以高性价比切入企业级应用市场,显示出国产大模型在成本效率上的竞争力。

InfoQ AI42 天前
★ 4

论文提出面向企业智能体的环境探测式记忆整理方法

论文提出环境探测式整理方法,为异步整理智能体赋予最小权限的只读世界工具,以核查、界定与刷新候选记忆,无需重训模型。在GitHub Copilot SDK构建的类生产环境中,CLBench通过率从39%升至73%,查询数与成本显著下降。在六个APEX世界中18项记忆对比全部为正,工具调用减少16%至…

arXiv cs.AI51 天前
★ 4

客服助手从 Qwen3 单体混合迁移到 ReAct 智能体编排

本文报告了大型住宿市场客服助手从单体模型迁移到动态响应(DR)架构的生产实践。DR采用有界ReAct编排器与小型生成器,显著提升了实体选择精度,消除了结构化动作幻觉,并降低了升级响应率。同时,服务优化大幅降低了延迟和GPU占用,自托管使年度模型服务成本降低一个数量级以上。

arXiv cs.AI54 天前
★ 3

SpecEvo 多模型协同进化搜索,科学发现 API 成本降 80%

论文提出 Speculative Evolution(SpecEvo)多 LLM 框架,用轻量模型承担并行推测器与顾问角色,持续整合成功、失败与饱和方向的搜索证据,仅在稀疏检查点由前沿模型导航器介入。在覆盖四个科学与算法发现领域的 176 项任务上,SpecEvo 追平或超过前沿模型基线,API …

arXiv cs.AI11 天前
★ 3

TokenEconomizer:编码智能体的黑盒 token 成本控制

论文指出前沿编码智能体在真实连续项目中存在反复出现的环境相关 token 成本,提出外部控制器 TokenEconomizer,通过注入操作微技能、剪除长期无关工具、干预无效失败循环来降本。在 Claude Code、Codex 与 GitHub Copilot CLI 搭配前沿模型时,平均 to…

arXiv NLP14 天前
★ 3

AutoOnboarder:自主适配 LLM 智能体的系统

研究者提出 AutoOnboarder,让智能体在「Onboarder」编码智能体监督下,迭代调整基础模型、提示词与 harness 源码,以提升性能并降低成本。在基因组测序预授权表单提交任务上,自主适配的智能体以最高 29 倍更低成本达到或超过 Gemini 3.5 Flash 基线。研究指出未…

arXiv cs.AI17 天前
★ 3

Asana 用 GPT-6.1 Sol 将浏览器模型成本降 76 倍

Asana 在 Codex 中使用 GPT-6 Astra,使其浏览器智能体在测试中成本降低 76 倍、速度提升 5 倍。此举旨在为客户提供能力更强的模型,同时大幅压缩推理开销。这反映出企业正通过模型选型与工程优化来控制 AI 智能体的运行成本。

OpenAI23 天前
★ 3

微调 Qwen3.5 小模型语法标注超越 GPT-5.4

研究团队微调 Qwen3.5 小语言模型用于语法概念标注,部署 0.8B 模型构建端到端语法掌握追踪器。在两个人工标注基准上,0.8B 与 4B 模型在精确率与召回率上均超过提示式 GPT-5.4 与 GPT-5.6 Sol,服务成本降低约 16 倍,在线实验显示学习者参与度提升 15.8%。

arXiv NLP24 天前
★ 3

研究:智能家居智能体多数调用无需前沿大模型

论文在开源智能家居框架 Wactorz 的五个 LLM 调用点上评测 9 个 0.8B 至前沿模型,发现能力排序因调用点而异,大模型并非全面更优。最佳本地模型在五个调用点中的四个与托管模型无统计差异,仅代码生成拉开差距。按调用点路由本地模型可达 91.8% 准确率,仅托管两个生成类调用点即可用 2…

arXiv cs.AI25 天前
★ 3

动态LLM路由器常被误导

研究分析六种商业LLM路由器在14种设置下的表现,发现没有一种能超越在匹配成本下随机选择两个精选模型的基线,部分路由器落后超过10个百分点。研究将差距归因于四种模式:难度盲区、长度反转、语义匹配和候选池次优。研究提出不奖励这些模式的替代评估方法,并设计了一个避免全部四种问题的简单双模型路由器,但其…

arXiv cs.AI28 天前
★ 3

编码智能体成本低效行为分析与缓解

研究首次系统分析编码智能体的行为性成本低效,基于 Claude Code 与 Mini-SWE-Agent 在 SWE-bench Verified 上的 1200 条轨迹,识别出子集化检索、重复脚本生成、测试重执行三类行为。这些行为影响 79%–98% 的任务,最高占任务成本 22.75%。开发…

arXiv cs.AI35 天前
★ 3

企业AI编程智能体的路由与治理

论文指出企业大规模部署 AI 编程智能体(如 Claude Code、Codex)时,harness 的默认设置决定了模型选择、缓存使用与成本。作者构建可定制路由器,用校准概率分类器 Jev 对每个提示按自定义分类体系打标,并仅在会话开始、侧道与子智能体启动等无需重建缓存的时点切换工作。在 1 万…

arXiv cs.AI38 天前
★ 3

银行级语义用户画像流水线:从逐用户到逐交易模式推理

研究将属性推断从逐用户改为逐交易模式,流水线分Resolve、Profile、Tag三阶段,每个模式仅一次LLM调用,使推理预算随模式数而非用户数增长。在公开电商语料上,所得数据库与直接读取用户原始历史的LLM在各属性AUC上统计无差异。该流水线已部署于一家日本大型银行,覆盖数千万用户,推理目标数…

arXiv cs.AI45 天前
★ 3

EffiRAG:图结构 RAG 的成本与质量权衡

论文探讨图结构检索增强生成(RAG)的质量增益是否值得其高昂的建图成本。作者提出 EffiRAG,用图定位相关段落并从原文生成答案,保持轻量建图与查询。在 UltraDomain 上,EffiRAG 在 120 题中 93 题优于 LightRAG-hybrid,总成本降低 57%,且随语料增长优…

arXiv cs.AI46 天前
★ 3

研究:置信门控混合方案降低对话情绪识别成本

研究比较了对话情绪识别的三种部署方案:低成本集成模型、现成LLM提示,以及仅将集成模型最不确定预测升级给LLM的置信度门控混合方案。混合方案在三个数据集上帕累托优于两种纯方案,每百万话语成本约10-85美元,远低于纯LLM管线的99-170美元,且升级信号可解释、可审计。

arXiv cs.AI46 天前
★ 3

阿里 Qoder Cloud Agents 破解 Agent 成本难题

文章指出 Agent 的经济账不能只算 Token 成本,阿里通过 Qoder Cloud Agents 给出解决方案。该方案强调云端代理在调度、资源利用与成本控制上的工程化能力。这反映出 Agent 商业化正从模型调用转向系统级成本优化。

InfoQ AI46 天前
★ 3

AutoTailor:面向网页智能体的用户对齐能力选择

论文提出 AutoTailor 元智能体框架,用于构建和维护精简的轨迹衍生 MCP API 集合。离线阶段通过质量过滤与使用可能性过滤将 1283 个 API 压缩至 87 个,在线动态重选进一步精简至 33 个。在 WebArena Postmill 的 106 项任务上,配合 ReAct 回退…

arXiv cs.AI48 天前
★ 3

模型相同 Token 差 70 倍,AI 编程工具成本黑洞实测

三项实测显示,即便底层模型完全一致,不同 AI 编程工具的 Token 消耗可相差 70 倍,暴露出上下文管理与提示工程带来的巨大成本差异。该结果提示开发者选型时需关注实际调用成本而非仅看模型能力。

InfoQ AI50 天前
★ 3

新协议层失效契约解决跨会话智能体记忆缓存失效

失效契约为缓存恢复建议附加版本戳和缓存提示,使客户端无需试错即可驱逐过期条目。有效性取决于协议,合规性取决于规划模型。行级失效提高合规性并恢复部分成本,而表级失效破坏共置条目。

arXiv cs.AI61 天前
★ 2

Metergraph 推出跨模型 LLM 定价 API

Metergraph 发布跨模型 LLM 定价 API,帮助开发者统一查询和比较不同大模型的价格。该工具旨在简化多模型选型与成本核算流程。

Hacker News – LLM3 天前
★ 2

KORA 提出确定性优先执行控制,减少 80% 模型调用

arXiv 论文提出 KORA,一种推理前的执行控制层,将请求表示为任务路径,优先尝试确定性或结构化路由,仅在不足时升级到模型调用。在 100 项确定性任务基准中避免了 80 次模拟模型调用,确定性子集零错误。

arXiv cs.LG5 天前
★ 2

如何设计可持续演进的 AI 推理服务框架

文章指出企业 AI 的竞争优势正从模型能力转向模型周边的工程系统,即推理服务框架,涉及架构、内存管理、调度与优化。作者认为应根据业务负载约束选择架构,在延迟、并发、GPU 利用率与成本之间取得平衡。

MIT Technology Review – AI10 天前
★ 2

Parlant 4.0 引入 Signals and Queries 降低智能体策略检索成本

论文提出 Signals and Queries(S&Q),一个为 Parlant 4.0 开发的轻量级一阶段相关性过滤器,可先剔除至少 30% 的候选策略并保持高召回。它用 LLM 离线生成激活样例与难负例,再训练逻辑回归分类器,无需每轮调用 LLM;在 9144 条 LLM 判定标签上精度优于…

arXiv NLP11 天前
★ 2

Via 推出降低 AI 编程成本的开发平台

Via 发布新产品,主打降低 AI 辅助编程的使用成本。该消息在 Hacker News 上获得少量讨论,属于开发者工具领域的常规产品发布。

Hacker News – AI12 天前
★ 2

面向多成本与失败风险的 Web 智能体强化学习决策模型

论文提出面向 Web 智能体的约束式智能体强化学习模型,把页面访问、搜索请求与外部 API 调用统一进带成本的长期决策框架。方法用拉格朗日对偶处理预算约束,并用 CVaR 风险项抑制高失败路径探索。实验显示同等完成率下每次成功成本降低 22%-31%,固定预算下完成率提升 10%-16%。

arXiv cs.LG13 天前
★ 2

ParetoOps 为 LLM 评测设置「每成功任务成本」CI 门禁

ParetoOps 推出一项 CI 门禁方案,以「每个成功任务的成本」作为 LLM 评测的核心指标,在持续集成中拦截成本或成功率不达标的模型变更。该思路把成本效率纳入模型迭代的质量把关环节。

Hacker News – LLM14 天前

这个主题的相关资产

相关标签

成本优化 最新资讯与动态(51 篇) - 智讯 AI News