★ 3
SO-Arena 基准发布:评估 System One 模型能力谱与决策可靠性
研究者提出 SO-Arena 基准,覆盖 11 个领域与五类能力,用于评估 System One 模型的能力广度与决策可靠性。除准确率外,还考察选项集变化下的决策稳定性与无正确答案时的识别能力。对 21 个模型的评测显示,整体表现强并不代表决策可靠,最佳模型在可靠性上仅排第七。
arXiv NLP7 小时前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究者提出 SO-Arena 基准,覆盖 11 个领域与五类能力,用于评估 System One 模型的能力广度与决策可靠性。除准确率外,还考察选项集变化下的决策稳定性与无正确答案时的识别能力。对 21 个模型的评测显示,整体表现强并不代表决策可靠,最佳模型在可靠性上仅排第七。