★ 3
CIRCE:从约束结构预测 LLM 任务复杂度
研究提出 CIRCE,用低成本 LLM 构建约束中间表示并编译为约束图,从而在模型作答前预测任务复杂度,可指导模型路由与测试时算力分配。在七个推理基准与四个 LLM 上,即使随机初始化的 GNN 编码器也将 AUROC 从 0.691 提升至 0.727。
arXiv cs.AI2 小时前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究提出 CIRCE,用低成本 LLM 构建约束中间表示并编译为约束图,从而在模型作答前预测任务复杂度,可指导模型路由与测试时算力分配。在七个推理基准与四个 LLM 上,即使随机初始化的 GNN 编码器也将 AUROC 从 0.691 提升至 0.727。
论文提出 Competitive Token Selection(CoTS),一种免训练框架,将潜在推理干预从二元模式选择改为 token 级连续分配。CoTS 利用两个最可能候选之间的概率竞争动态平衡离散承诺与软探索。在六个推理基准上,CoTS 持续优于标准 CoT 与当前免训练潜在推理方法。