TopoQuant：用拓扑分析量化 LLM 行为漂移

研究者提出 TopoQuant 框架，利用拓扑数据分析（TDA）量化量化后大模型自注意力权重的结构性漂移，并将其与行为退化关联。实验覆盖四个模型家族与多种量化精度，发现拓扑漂移在中等压缩下稳定，但低于 4bit 时急剧上升，与注意力一致性下降高度吻合。该方法可用轻量模型预测注意力一致性（R² 最高 0.85），无需跑昂贵下游任务即可预警量化退化、确定安全压缩边界。