★ 3
LLM 智能体框架的计算成本理论
论文提出语言模型智能体机器(LAM),一种资源受限抽象,在固定底层语义模型的同时显式计入框架层资源开销。研究给出通信、访问、重计算与可靠性四类结果,包括上下文—内存流量的 I/O 下界、随机与非推测顺序访问的 Θ(n) 差距,以及带闭式最优验证间隔的检查点定律。作者在 GPT-6 Astra 上做…
arXiv cs.LG28 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出语言模型智能体机器(LAM),一种资源受限抽象,在固定底层语义模型的同时显式计入框架层资源开销。研究给出通信、访问、重计算与可靠性四类结果,包括上下文—内存流量的 I/O 下界、随机与非推测顺序访问的 Θ(n) 差距,以及带闭式最优验证间隔的检查点定律。作者在 GPT-6 Astra 上做…