研究:LLM 标注退伍军人心理危机严重度,一致性高于人类专家
原文标题:Veterans' Mental Health Crisis Severity Annotation: Do LLMs Agree More Than Human Experts?
重要度 3/5 · AI 综合评估报道影响力与新鲜度,4–5 分为高价值资讯。
研究用 149 条退伍军人相关推文与五级严重度分类,比较 15 个开源与 10 个闭源 LLM 在八种提示变体下与八位退伍军人领域专家的标注结果。人类评审的序数一致性(α=0.494)高于名义一致性,而模型间一致性显著更高(α 达 0.8336)。闭源模型整体更贴近专家标注且更稳定,GPT-5.6-Terra 综合表现最佳,开源 Qwen2.5-7B 在识别急性自杀意念危机上最强;但高一致性并不等于与人类判断一致或能可靠检出罕见高危案例。
深读 · 结论先行AI 生成展开看要点与影响 ↓
25个LLM标注退伍军人心理危机严重度,模型间一致性α达0.8336,远高于8位人类专家的0.494。
- •研究用149条推文、五级严重度分类,比较15个开源与10个闭源模型在八种提示变体下的表现。
- •人类专家序数一致性α=0.494,模型间序数一致性α达0.8336,但高一致性不等于贴近人类判断。
- •闭源模型整体更贴近专家标注且更稳定,GPT-5.6-Terra综合表现最佳。
- •开源Qwen2.5-7B在识别急性自杀意念危机上表现最强。
- •作者提醒:模型对罕见高危案例的可靠检出仍存疑。
为什么重要:对想用LLM替代人工做心理健康内容审核的平台是重要警示:模型彼此高度一致,可能只是共享同一种偏差,而非真正对齐专家判断。
以上深读由 AI 依据标题/摘要/正文节选生成,仅供参考;事实以原文为准。
AI 处理过程展开/收起
相关推荐
AI分析40万条Reddit帖子发现Ozempic隐藏副作用
AI 摘要研究利用AI分析约40万条Reddit帖子,发现Ozempic等GLP-1药物此前未被充分记录的副作用。该成果展示AI在药物警戒与真实世界证据挖掘中的潜力,可补充传统临床试验与不良反应报告的盲区。
谷歌AlphaGenome Atlas绘制人类基因组图谱
AI 摘要谷歌DeepMind推出AlphaGenome Atlas,包含人类基因组中每个可能的DNA字母变化的预测图谱,有望加速科学研究并推动疾病治疗。该工具将改变我们对生物学的理解。
迪士尼与 Adobe 合作开发定制生成式 AI 模型
AI 摘要迪士尼与 Adobe 宣布多年合作,基于 Adobe Firefly Foundry 打造「艺术家主导」的专有生成式 AI 模型,用于主题公园、邮轮、ESPN 内容等生产流程。迪士尼将获得 Adobe 最新技术的早期访问权,其 Imagineering 部门已在用 Firefly 做园区开发。
马斯克称特斯拉或出租 Optimus 机器人而非出售
AI 摘要马斯克表示特斯拉很可能以租赁方式向客户提供人形机器人 Optimus,而非直接销售。特斯拉已在弗里蒙特工厂启动 Optimus 早期量产,预计 2027 年底前后开始向外部客户交付。租赁模式或降低客户采用门槛,也延续特斯拉按服务收费的思路。