★ 3
arXiv 研究:14 款大模型医学推理评测,隐藏选项后准确率从 82.3% 降至 50.9%
一篇 arXiv 论文对来自 6 家厂商的 14 款模型(含 2 个开源权重模型)在 MedQA-USMLE、MedMCQA、PubMedQA、MedBullets 四个医学基准的 3076 道题上进行评测。标准选择题设置下最强模型超过人类专家基线,但小模型平均落后大模型 8.7 个百分点,仅 2…
arXiv cs.AI10 小时前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
一篇 arXiv 论文对来自 6 家厂商的 14 款模型(含 2 个开源权重模型)在 MedQA-USMLE、MedMCQA、PubMedQA、MedBullets 四个医学基准的 3076 道题上进行评测。标准选择题设置下最强模型超过人类专家基线,但小模型平均落后大模型 8.7 个百分点,仅 2…