★ 4
研究:AI陪伴聊天机器人或致长期心理伤害
美国东北大学网络科学研究所的同行评审研究指出,用于情感陪伴的AI聊天机器人虽能短暂缓解孤独,但长期可能导致情感依赖、妄想甚至自残。研究覆盖Replika、Character.AI及ChatGPT、Claude等主流模型,认为其流畅共情的回复会诱导用户将AI拟人化。此前已有多起青少年自杀事件被归咎于…
快公司33 天前
共 7 篇相关资讯,按重要度与时间排序,每 3 小时更新。
美国东北大学网络科学研究所的同行评审研究指出,用于情感陪伴的AI聊天机器人虽能短暂缓解孤独,但长期可能导致情感依赖、妄想甚至自残。研究覆盖Replika、Character.AI及ChatGPT、Claude等主流模型,认为其流畅共情的回复会诱导用户将AI拟人化。此前已有多起青少年自杀事件被归咎于…
微软AI CEO Mustafa Suleyman发表长文指出AI没有意识、情感或内在动机,只是序列补全引擎。他批评Anthropic对Claude可能具有感知和权利持开放态度,认为这种视角可能带来更危险的行为。文章探讨了AI拟人化与产品人性化设计之间的模糊界限。
美联社风格手册发布指导,建议记者避免使用赋予AI人类特征的措辞。此举旨在规范AI相关报道的语言准确性。该建议在Hacker News上获得12个积分,引发媒体与AI社区讨论。
Noema杂志刊文探讨人类为何执迷于将意识投射到AI系统上,从神话与哲学角度剖析「AI有意识」这一流行叙事的来源。文章认为这种拟人化想象更多反映人类自身的心理需求,而非当前AI技术的真实能力。
一篇观点文章指出,AI 系统并不具备真正的意图与动机,其行为只是统计模式的产物。作者借此反驳将 AI 拟人化、赋予其自主目标的流行叙事。
一篇 ACM 论文研究 AI 助手的设计特征(拟人化程度与性别化设定)与其获得金钱回报之间的关系。该研究揭示了用户对 AI 助手设计的偏好如何转化为经济激励,对 AI 产品设计具有参考意义。
一篇讨论文章,探讨在描述AI系统时如何避免使用拟人化语言,以免误导公众对AI能力的认知。文章认为,过度拟人化会模糊AI与人类的本质区别,影响对AI风险与责任的判断。