arXiv cs.AI·5 小时前★ 3

研究:LLM 标注退伍军人心理危机严重度,一致性高于人类专家

原文标题:Veterans' Mental Health Crisis Severity Annotation: Do LLMs Agree More Than Human Experts?

重要度 3/5 · AI 综合评估报道影响力与新鲜度,4–5 分为高价值资讯。

AI 智能摘要

研究用 149 条退伍军人相关推文与五级严重度分类,比较 15 个开源与 10 个闭源 在八种提示变体下与八位退伍军人领域专家的标注结果。人类评审的序数一致性(α=0.494)高于名义一致性,而模型间一致性显著更高(α 达 0.8336)。闭源模型整体更贴近专家标注且更稳定,-5.6-Terra 综合表现最佳, Qwen2.5-7B 在识别急性自杀意念危机上最强;但高一致性并不等于与人类判断一致或能可靠检出罕见高危案例。

深读 · 结论先行AI 生成展开看要点与影响 ↓

25个标注退伍军人心理危机严重度,模型间一致性α达0.8336,远高于8位人类专家的0.494。

  • •研究用149条推文、五级严重度分类,比较15个开源与10个闭源模型在八种提示变体下的表现。
  • •人类专家序数一致性α=0.494,模型间序数一致性α达0.8336,但高一致性不等于贴近人类判断。
  • •闭源模型整体更贴近专家标注且更稳定,GPT-5.6-Terra综合表现最佳。
  • •开源Qwen2.5-7B在识别急性自杀意念危机上表现最强。
  • •作者提醒:模型对罕见高危案例的可靠检出仍存疑。

为什么重要:对想用LLM替代人工做心理健康的平台是重要警示:模型彼此高度一致,可能只是共享同一种偏差,而非真正对齐专家判断。

以上深读由 AI 依据标题/摘要/正文节选生成,仅供参考;事实以原文为准。

阅读原文 +0
AI 处理过程展开/收起
原始标题:Veterans' Mental Health Crisis Severity Annotation: Do LLMs Agree More Than Human Experts?
AI 中文标题:研究:LLM 标注退伍军人心理危机严重度,一致性高于人类专家
来源:arXiv cs.AI · 发布于 5 小时前
分类:应用产品 · AI 重要度:★ 3(3)
标签:LLM 标注 / 心理健康 / 安全关键应用 / 模型一致性 / 提示敏感性
关键词:LLM 标注 / 心理健康 AI / 模型一致性 / GPT-5.6 / Qwen2.5
AI 处理:2026/11/10 18:03:54 · 模型 deepseek-chat · 规则版本 2026-10-21.1
AI 生成以上内容由 AI 自动生成:中文标题、摘要、分类与重要度;同一事件的多家报道会自动归并展示。 内容仅供参考,可能存在偏差,请以原文为准, 不构成任何投资或专业建议。
版权归原作者与原发布平台所有;若涉及侵权或信息错误,请在举报与侵权投诉页反馈,我们会及时处理。
每天 09:30,3 条 AI 圈真正重要的变化,免费订阅 →

相关推荐

Hacker News – AI·52 天前★ 5

AI分析40万条Reddit帖子发现Ozempic隐藏副作用

AI 摘要研究利用AI分析约40万条Reddit帖子,发现Ozempic等GLP-1药物此前未被充分记录的副作用。该成果展示AI在药物警戒与真实世界证据挖掘中的潜力,可补充传统临床试验与不良反应报告的盲区。

#应用产品
The Verge AI·62 天前★ 5

谷歌AlphaGenome Atlas绘制人类基因组图谱

AI 摘要谷歌DeepMind推出AlphaGenome Atlas,包含人类基因组中每个可能的DNA字母变化的预测图谱,有望加速科学研究并推动疾病治疗。该工具将改变我们对生物学的理解。

#应用产品
The Verge AI·18 小时前★ 4

迪士尼与 Adobe 合作开发定制生成式 AI 模型

AI 摘要迪士尼与 Adobe 宣布多年合作,基于 Adobe Firefly Foundry 打造「艺术家主导」的专有生成式 AI 模型,用于主题公园、邮轮、ESPN 内容等生产流程。迪士尼将获得 Adobe 最新技术的早期访问权,其 Imagineering 部门已在用 Firefly 做园区开发。

#应用产品
36氪·1 天前★ 4

马斯克称特斯拉或出租 Optimus 机器人而非出售

AI 摘要马斯克表示特斯拉很可能以租赁方式向客户提供人形机器人 Optimus,而非直接销售。特斯拉已在弗里蒙特工厂启动 Optimus 早期量产,预计 2027 年底前后开始向外部客户交付。租赁模式或降低客户采用门槛,也延续特斯拉按服务收费的思路。

#应用产品
内容有误或摘要不准?告诉我们
研究:LLM 标注退伍军人心理危机严重度,一致性高于人类专家 - 智讯 AI News