★ 4
Anthropic 称其 AI 模型可能具有意识
BBC 报道称 Anthropic 内部认为其 AI 模型可能具备某种形式的意识，引发关于 AI 感受与伦理的新一轮争论。该表态触及模型福利、AI 权利与安全评估等敏感议题。
Hacker News – AI17 天前
#模型福利
共 4 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
Anthropic 更新使用政策，禁止用户虐待 Claude
Anthropic 在 2026 年使用政策更新中宣布，禁止对 Claude 模型进行「持续且不必要的虐待或残忍行为」，此举与其模型福利研究相关。该禁令不适用于表达不满、创作黑暗主题或模型测试研究，但社交媒体用户以「终结者」梗图调侃回应。
快公司23 天前
★ 3
Anthropic 与教皇利奥在 AI 意识问题上分歧
《纽约时报》报道称，Anthropic 联合创始人 Christopher Olah 过去一年与多宗教神职人员及梵蒂冈官员对话，探讨 AI 是否可能具有意识，属于其「模型福利」研究。教皇利奥十四世则明确否认 AI 能有意识，称其没有身体、不经历苦乐。双方在 AI 意识这一争议概念上立场相左。
快公司30 天前
★ 3
测量AI偏好：模型与工具各占多少？
研究固定结果和模型，仅变化测量工具，发现模型对结果的排序在不同工具间泛化系数仅为0.348。单一工具获得的偏好信息有限，需要约38种工具才能达到0.80的泛化系数。这表明AI偏好测量结果高度依赖工具。
arXiv cs.AI68 天前
这个主题的相关资产
相关公司Anthropic3