★ 2
TypeSafe AI 发布 Jev 决策模型:只返回类型化概率不输出文本
TypeSafe AI 推出名为 Jev 的决策模型,其输出不是自然语言文本,而是经过类型约束的概率分布。该设计面向需要结构化、可校验输出的决策类场景,试图降低 LLM 自由生成带来的不确定性。
InfoQ AI5 天前
共 5 篇相关资讯,按重要度与时间排序,每 3 小时更新。
TypeSafe AI 推出名为 Jev 的决策模型,其输出不是自然语言文本,而是经过类型约束的概率分布。该设计面向需要结构化、可校验输出的决策类场景,试图降低 LLM 自由生成带来的不确定性。
论文研究TypeSafe所称的System One概率模型Jev,将其判断嵌入Stockfish搜索,在子弹象棋中突破Lichess 2200分。实验显示Jev与Qwen3-32B双教师标注平均优于单用Qwen,且蒸馏后重排序成本远低于GPU训练。
论文针对LLM智能体逐token生成导致交互缓慢昂贵的问题,提出JevSpawn组合策略,将自然语言任务描述映射到有限概率域探索。方法结合并行动作生成、反馈驱动分支选择、表示修正与备选恢复,并复用动作结构与模型前缀以减少重复计算,无需额外训练。在8项基准任务对比7个智能体基线与TypeSafe J…
该论文提出一种在分布式环境下训练平均 n 依赖估计器(AnDE)的联邦框架,支持任意依赖阶数 n,模型权重本地学习、全局聚合,无需传输语义上有意义的参数,从而提升隐私性。实验在 12 个离散数据集上显示,n≥1 的判别式模型稳定优于联邦朴素贝叶斯,且带差分隐私的聚合在精度损失有限的情况下有效。
隐半马尔可夫模型的 Viterbi 解码现有实现均为串行,缺乏 GPU 加速方案,难以支撑大规模负载。论文提出张量化的 Viterbi 公式,将内层循环重构为可映射到 SIMD 与大规模并行架构的张量运算,并给出单核、多核 CPU 及首个 GPU 实现。实验显示单核最高加速 14 倍、多核超 20…