#缓存折扣

开发者发现 LLM 成本模型重复计算批量与缓存折扣

一篇技术博客指出，常见的 LLM 成本估算模型在叠加批量 API 折扣与缓存折扣时存在重复计算，导致成本被高估。该问题影响企业按 token 计费的成本核算与预算规划，作者建议按折扣叠加规则重新校准。