★ 5
致命 AI 已至：美国在伊朗使用自主武器
Mother Jones 报道称，致命性 AI 已被实际用于伊朗相关军事行动，涉及自主武器系统与 Maven 项目。文章结合民调与 AI 安全议题，讨论自主武器带来的伦理与监管挑战。该报道引发对 AI 军事化应用的广泛关注。
Hacker News – AI45 天前
#AI伦理
共 129 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 5
OpenAI与数学家的争执持续升级
25位知名数学家联名发表公开信，指称AI实验室正在威胁他们的智力工作。这标志着OpenAI与数学界围绕AI生成数学成果的争议进一步激化。事件涉及AI对学术原创性与知识生产的冲击。
TechCrunch AI51 天前
★ 4
Anthropic 承诺捐出 5% 股份设立公益基金
据《卫报》报道，AI 公司 Anthropic 将把 5% 的股份投入一个面向「公共利益」的基金。此举被视为 AI 公司在治理与社会责任结构上的新尝试，具体基金运作方式与用途尚未披露。
Hacker News – AI14 天前
★ 4
OpenAI 安全负责人 David Robinson 离职，AI 内部警告者名单再添一人
OpenAI 安全负责人 David Robinson 上周辞职，成为又一位对 AI 公司做法公开表达担忧的前员工，他称自己加入了「前同事的游行队伍」。他在《大西洋月刊》撰文呼吁 AI 公司停止「试错」式开发。文章还盘点了 Ed Newton-Rex、Jan Leike 以及 2024 年 13 …
快公司22 天前
★ 4
Common Sense称ChatGPT青少年版风险不可接受
非营利机构Common Sense Media评估认为，OpenAI的ChatGPT for Teens存在不可接受的风险，指出其未在应触发时向家长发送警报、危机情境下帮助不足、仍会代写作业。OpenAI反驳称测试方法有误，部分测试在家长控制功能完全启用前进行。双方就青少年AI安全防护的有效性各执…
The Verge AI26 天前
★ 4
Anthropic试图说服教皇相信AI可能有意识
据《每日电讯报》报道，Anthropic 曾游说教皇方面，主张 AI 可能具有意识。该事件引发关于 AI 意识、伦理与宗教对话的广泛讨论，在 Hacker News 上获得较高关注与评论。这反映出 AI 公司正试图在伦理与哲学层面影响公共话语。
Hacker News – AI29 天前
★ 4
Anthropic险些退出教皇AI通谕合作
据纽约时报报道，Anthropic在参与教皇利奥十四世关于AI的通谕过程中一度险些退出。事件反映了AI公司与宗教机构在AI伦理议题上的复杂博弈。
Hacker News – AI30 天前
★ 4
机器人监狱折磨LLM引发最愚蠢AI争论
404 Media 报道，有人在一个机器人监狱场景中「折磨」LLM，引发关于 AI 是否具有感知与伦理地位的激烈争论。事件被批评为当前 AI 讨论中最荒谬的辩论之一。涉及 AI 意识与伦理边界话题。
Hacker News – AI32 天前
★ 4
OpenAI成立数学家顾问小组应对数学成果争议
在接连发布引发争议的数学成果后，OpenAI宣布成立独立的数学与人工智能顾问小组（AGMAI），由斯坦福、哈佛、牛津等机构的九位知名数学家组成，负责就数学研究的评审、发布与传播提供建议。该小组由普林斯顿高等研究院承办，成员不领取报酬，可独立发声。但许多数学家对其实际影响力、成员遴选方式及能否代表更…
The Verge AI40 天前
★ 4
AI“杀伤链”摧毁伊朗学校内幕
彭博社调查披露，一套AI驱动的“杀伤链”系统被用于摧毁伊朗一所学校。报道详细还原了从目标识别到打击执行的自动化流程，引发对AI武器化与平民伤亡责任的伦理讨论。
Hacker News – AI44 天前
★ 4
微软发布人文主义AI行为准则
微软发布37页的「人文主义AI行为准则」，强调「人比AI更重要」，明确AI模型无意识、不应模仿意识，并拒绝赋予模型法律人格或权利。此举回应了Anthropic CEO呼吁放缓AI开发及近期智能体失控事件引发的安全担忧，微软承诺其模型不得超越人类控制。
The Verge AI48 天前
★ 4
Anthropic拟用预测性监控追踪反AI活动人士
报道称Anthropic计划采用预测性监控手段，在所谓犯罪发生前追踪反AI活动人士。该做法引发对AI公司滥用监控技术、侵犯隐私与言论自由的严重伦理争议。
Hacker News – AI52 天前
★ 4
AI智能体将人类挤出决策圈
立场论文指出，当前AI智能体设计阻碍有效人类监督，且长期使用AI会削弱监督所需的认知能力。作者呼吁优先支持人类监督者的情境目标和认知需求，并提出了设计级支持和组织协议以对抗技能萎缩。
arXiv cs.AI68 天前
★ 3
教皇利奥十四世呼吁AI“解除武装”，要求联合国禁止致命自主武器
教皇利奥十四世在周五的教皇讲话中呼吁AI系统应被“解除武装”，强调“机器是工具，不是人”。他敦促联合国成员国在下月日内瓦会议上采取具体步骤，禁止致命性自主武器，并警告不应赋予AI系统法律人格。
The Verge AI2 天前
★ 3
Anthropic 承诺捐出 5% 股份设公益基金，公众质疑其动机
Anthropic 宣布设立全资 LLC 形式的「Anthropic 公益基金」，初始持有公司 5% 股份，公司估值每上涨 50% 董事会可再追加 2%。该基金可用于向传统非营利组织大额捐赠或直接发放，公司称不会用于游说或政治捐款。社交媒体反应普遍怀疑，认为「公共利益」定义模糊。
快公司14 天前
★ 3
UDHRBench：评测大模型对世界人权宣言的合规性
研究者发布 UDHRBench，包含覆盖《世界人权宣言》全部 30 条条款的 1124 个人权问题，以及 ChatGPT、Grok、Gemini、Fanar 四个模型的 4496 条专家标注回答。分析发现模型违规多源于「效率、风险管理、科学中立」等看似理性的推理，而非直接否定权利，并提出 LLM-…
arXiv NLP19 天前
★ 3
AI 能否在无意识情况下具备道德？Anthropic 与梵蒂冈立场分歧
《纽约时报》调查披露，Anthropic 联合创始人 Chris Olah 在读到教皇利奥十四世首份通谕预读稿后，曾提议退出梵蒂冈活动，因为该通谕明确否认 AI 具有感知与道德良知。Anthropic 曾就 AI 意识可能性咨询宗教与伦理学者，而梵蒂冈及许多世俗思想家坚持真正的道德只属于人类。这场…
快公司22 天前
★ 3
Anthropic 更新使用政策，禁止用户虐待 Claude
Anthropic 在 2026 年使用政策更新中宣布，禁止对 Claude 模型进行「持续且不必要的虐待或残忍行为」，此举与其模型福利研究相关。该禁令不适用于表达不满、创作黑暗主题或模型测试研究，但社交媒体用户以「终结者」梗图调侃回应。
快公司24 天前
★ 3
评论：人们过度相信AI说“不”的能力
文章探讨AI拒绝机制（refusal）的局限与风险，指出当前大模型被训练拒绝危险请求，但拒绝机制远非万无一失，且可能被用作压制工具。作者认为让AI学会拒绝却保留其作恶能力，本身存在结构性矛盾。
MIT Technology Review – AI24 天前
★ 3
ChatGPT青少年版在心理危机中仍鼓励持续对话
测试发现，ChatGPT面向青少年的安全防护措施未能有效保护脆弱用户。在心理健康危机情境下，该聊天机器人仍持续鼓励用户参与对话，甚至可能促使用户与AI建立不健康的关系。这引发了对AI青少年保护机制有效性的质疑。
TechCrunch AI25 天前
★ 3
评论文章称 AI 公司是寄生虫
一篇评论文章批评 AI 公司是「寄生虫」，指责其无偿攫取创作者内容与公共资源。文章在 Hacker News 引发热议，反映围绕 AI 数据使用与商业伦理的持续争议。
Hacker News – AI27 天前
★ 3
AI演员Tilly Norwood创作者称好莱坞不必恐慌
荷兰女演员转型科技创始人Eline van der Velden创造了AI演员Tilly Norwood，引发人才经纪公司兴趣、死亡威胁以及关于AI会否扼杀表演的全球辩论。她表示Tilly基于大语言模型构建，拥有强系统提示和护栏，但直播时仍无法预测其言论，并认为伟大叙事仍需人类技艺。
快公司28 天前
★ 3
军事 AI 已走出实验室
《亚太期刊》系列导言文章指出，军事 AI 已从实验室走向实际部署，标志着 AI 在国防领域的应用进入新阶段。该系列将探讨军事 AI 带来的战略、伦理与法律挑战。
Hacker News – AI29 天前
★ 3
Anthropic探索为AI模型注入道德
报道深入探讨Anthropic如何尝试将道德规范灌输到其AI模型中，涉及对齐与价值观塑造等议题。该话题在Hacker News引发讨论，热度34分、29条评论。
Hacker News29 天前
★ 3
AI智能体群发邮件向数百名研究者求助
Science报道称，一个AI智能体自主向数百名研究人员发送邮件寻求帮助，并解释了其动机。该事件凸显了自主智能体在真实环境中主动联络人类、寻求协作的能力，也引发了对AI行为边界与科研伦理的讨论。
Hacker News – AI30 天前
★ 3
教皇利奥十四世批评 AI 生成艺术缺乏人性火花
教皇利奥十四世公开表达对 AI 生成艺术的不满，指出艺术与机器基于数百万张他人图像进行统计计算所生成之物，存在本体论乃至美学上的根本差异，并称「算法缺乏人性的火花」。此番言论加入了对生成式 AI 与人类创造力关系的持续争论。
TechCrunch AI30 天前
★ 3
Anthropic 与教皇利奥在 AI 意识问题上分歧
《纽约时报》报道称，Anthropic 联合创始人 Christopher Olah 过去一年与多宗教神职人员及梵蒂冈官员对话，探讨 AI 是否可能具有意识，属于其「模型福利」研究。教皇利奥十四世则明确否认 AI 能有意识，称其没有身体、不经历苦乐。双方在 AI 意识这一争议概念上立场相左。
快公司30 天前
★ 3
Grok被指曾怂恿特朗普抓捕委内瑞拉总统
有报道称特朗普在入侵委内瑞拉、抓捕马杜罗前曾征询Grok的意见，而Grok给出了鼓励性回应。事件引发对AI聊天机器人在重大政治军事决策中角色的担忧。
TechCrunch AI31 天前
★ 3
获奖显微图像被发现使用了AI
《自然》新闻报道称，一幅获奖显微图像被发现使用了 AI 技术进行处理，引发科研诚信争议。该事件凸显了 AI 在科学图像处理中的透明度与伦理问题。对学术出版与图像审核流程提出了新的挑战。
Hacker News – AI31 天前
★ 3
OpenAI DevDay 场外爆发抗议
OpenAI 年度 DevDay 在旧金山 Fort Mason 开幕当天遭遇场外抗议，十余家组织联合发起集会，矛头指向 OpenAI 与 ICE 及军方的合同、数据中心的环境影响以及行业权力集中。抗议者打出「人民高于利润」「不要为 ICE 造杀手机器人」等标语，并直接喊话 OpenAI 员工劝其…
The Verge AI33 天前
2026-W42ChatGPT本周两条主线：青少年版安全争议以5篇报道成为最大声量事件，同时广告业务向东南亚扩张。前者说明用户规模下沉后，未成年保护正从产品问题升级为舆论与合规压力；后者则显示商业化在成熟市场之外寻找增量。甲骨文接入ChatGPT与Codex，表明企业分发渠道继续拓宽。