TASCO:稳定性感知的LLM推理测试时适应
研究指出高置信度并不代表正确,但若置信度在局部扰动下保持稳定则更可能正确。据此提出TASCO框架,在保持LLM冻结的前提下,通过优化轻量级任务前缀将局部稳定性纳入置信度驱动的测试时适应,采用随机扰动与锐度感知扰动两种策略。实验显示TASCO在多种LLM与推理基准上提升准确率与token效率,且不使…
共 6 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究指出高置信度并不代表正确,但若置信度在局部扰动下保持稳定则更可能正确。据此提出TASCO框架,在保持LLM冻结的前提下,通过优化轻量级任务前缀将局部稳定性纳入置信度驱动的测试时适应,采用随机扰动与锐度感知扰动两种策略。实验显示TASCO在多种LLM与推理基准上提升准确率与token效率,且不使…
文章围绕AI Coding提速后如何补齐稳定性“最后一公里”展开,分享快手柯南AI的工程实践。内容聚焦在提升代码生成效率之后,如何保障交付质量与系统稳定,为大规模AI辅助研发落地提供经验参考。
该研究针对量子联邦学习在异构数据、不可靠通信和量子噪声下的不稳定性,提出了一种自洽中点聚合方法,结合QoS感知客户端加权、圆形参数聚合和有界中点更新控制。实验表明,该方法在医疗和金融数据集上提高了稳定性,降低了波动性,并保持了有竞争力的准确性。
在 QCon 上海大会上,柯南 AI Agent 分享了 AI 时代移动端稳定性保障的实践经验。该实践展示了如何利用 AI Agent 技术提升移动应用的稳定性监控与故障处理能力,为移动开发领域提供了新的思路。
论文提出 DissipNet,一种深度离散时间耗散循环神经网络,通过结构权重约束与专门训练算法显式强制耗散性,并用 Lyapunov 理论形式化分析其稳定性。与仅将控制方程纳入损失、不保证内部解析性质(如耗散性、无源性)的物理信息神经网络(PINN)不同,该方法在模型层面提供显式稳定性保证,并在多…
论文提出LoRA-RC,通过流式预测误差驱动的低秩修正来适配储备池循环矩阵,核心矩阵在线更新并投影到谱范数球内、逐步低通滤波,保证循环矩阵始终处于认证收缩集内并建立增量输入-状态稳定性界。在Lorenz系统突变漂移场景下,LoRA-RC将漂移后预测误差较固定RC降低56%、较仅读出适配降低51%。