#Token 优化

共 3 篇相关资讯,按重要度与时间排序,每 3 小时更新。

★ 2

开源代理 Pith 上线:压缩 LLM 输出 token,不达标即拒绝

开发者发布开源代理 Pith,通过回放样本、用裁判模型对比基线,仅在候选配置不劣于基线时才固定使用,从而削减 LLM 输出 token 开销。作者在 Anthropic API 上做了十组实测,并强调改写不触碰系统提示与工具,保证提示缓存命中。

Hacker News – LLM11 天前
★ 2

VS-Opt 削减 AI 浏览器 40% Token 开销

VS-Opt 提出确定性数学管线,通过查询前意图校正与零信任状态治理,将 LLM 搜索的 token 开销降低 30% 至 50%。该方案无需重新爬取网页,定位为隐私优先 Chromium 浏览器的零训练、零迁移层。

Hacker News – AI47 天前

相关标签

Token 优化 最新资讯与动态(3 篇) - 智讯 AI News