#Token优化

共 3 篇相关资讯,按重要度与时间排序,每 3 小时更新。

★ 3

研究提出 Agent 可控遗忘机制降低工具调用上下文成本

论文研究智能体可控遗忘:模型选择已观察的工具结果,用简短笔记替换并保留可恢复归档。在 OpenTelemetry 调试案例中,提示 token 从 912,492 降至 231,951,成本从约 4.38 美元降至 1.28-1.44 美元,但请求次数更多、耗时增加 17%。

arXiv cs.AI24 天前
★ 3

openJiuwen发布X-Router自演进模型路由技术

openJiuwen首发X-Router自演进模型路由技术,针对昇腾平台优化,可让Agent在运行中动态选择最优模型。实测可减少50%以上Token消耗,实现越跑越省。该技术面向多模型调度场景,降低推理成本。

量子位30 天前
★ 1

HN 讨论:本地索引降低工具调用与Token消耗

Hacker News 上一篇文章提出用本地索引减少AI智能体的工具调用次数与Token消耗,热度7分暂无评论。思路是通过本地检索替代频繁的模型调用以降低成本。

Hacker News21 天前

这个主题的相关资产

相关公司OpenAI1

相关标签

Token优化 最新资讯与动态(3 篇) - 智讯 AI News