★ 3
LAM:带检索分数误差界的有损智能体记忆
论文针对智能体记忆随历史增长导致推理成本上升与上下文溢出问题,提出LAM有损智能体记忆系统。它包含带检索分数替换界的确定性去重规则、保留缓存前缀并将压缩与推理重叠的记忆管理器,以及部署前估算压缩成本的表现模型。在600条轨迹上移除22.47%观测token同时保留99.984%证据,预测端到端加速…
arXiv cs.AI34 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文针对智能体记忆随历史增长导致推理成本上升与上下文溢出问题,提出LAM有损智能体记忆系统。它包含带检索分数替换界的确定性去重规则、保留缓存前缀并将压缩与推理重叠的记忆管理器,以及部署前估算压缩成本的表现模型。在600条轨迹上移除22.47%观测token同时保留99.984%证据,预测端到端加速…
一篇技术文章对AMD矩阵核心(Matrix Cores)进行了精确建模分析,在Hacker News获得45分与5条评论。该工作有助于开发者更深入理解AMD GPU在AI计算中的底层性能特性,对高性能计算与AI芯片优化具有参考价值。