★ 3
AI 能否在无意识情况下具备道德？Anthropic 与梵蒂冈立场分歧
《纽约时报》调查披露，Anthropic 联合创始人 Chris Olah 在读到教皇利奥十四世首份通谕预读稿后，曾提议退出梵蒂冈活动，因为该通谕明确否认 AI 具有感知与道德良知。Anthropic 曾就 AI 意识可能性咨询宗教与伦理学者，而梵蒂冈及许多世俗思想家坚持真正的道德只属于人类。这场…
快公司22 天前
#道德判断
共 3 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
研究：自我奖励式道德论证让大模型更果断却更易被左右
研究者用自我评判的强化学习训练大模型进行道德论证，奖励论证质量。在 MoralChoice、ELEPHANT、MORABLES 基准上，模型变得更果断且对选项顺序不敏感，但谄媚与重新框定问题仍损害判断有效性。作者结论是：一致性不等于有效性，顺序不变性可被优化而不提升道德判断。
arXiv NLP10 天前
★ 2
研究：大模型道德判断能否逼近罗尔斯「原初立场」
论文探讨大模型能否近似罗尔斯「原初立场」式的整合性公平视角，即不排除社会身份而是计算性地纳入其多样性。作者对比人类、基础模型与前沿/微调模型在经典道德困境上的判断，并系统改变身份关系与罗尔斯式身份约束。结论推测 AI 或可在人类公平正义判断中扮演辅助角色，但人类是否接受其建议仍存疑。
arXiv cs.AI25 天前
这个主题的相关资产
相关公司Anthropic1