★ 3
论文分析 AI 导致人类灭绝的失效模式框架
论文提出一个失效模式框架，分析先进 AI 如何可能导致人类灭绝、不可逆文明崩溃或永久性人类失能。核心论点是灾难性 AI 风险不需要意识、敌意或明确伤害意图，而可能通过自主失准、人类恶意使用、组织失败和竞争性部署等路径产生。分析刻意保持非操作性，仅识别因果条件与防御性研究问题。
arXiv cs.AI24 天前
#存在性风险
共 12 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
比尔·盖茨警告不受控AI或致数十亿人死亡，呼吁监管
比尔·盖茨在接受采访时警告，若AI发展不受监管，可能造成「数十亿人死亡」的灾难性后果，并呼吁建立相应监管框架。此番言论延续了科技领袖对AI存在性风险的公开表态。该话题再度引发关于AI安全与治理优先级的讨论。
Hacker News – AI35 天前
★ 3
Anthropic团队负责人称AI十年内灭绝人类概率超10%
Anthropic一位团队负责人在社交媒体上表示，AI在未来十年内导致人类灭绝的概率超过10%。该言论引发对AI存在性风险的再度讨论。作为头部AI安全公司员工的表态，凸显了业界对前沿模型风险的分歧与担忧。
Hacker News – AI48 天前
★ 2
数学家 Gowers 撰文：AI 灭绝风险该多担忧
数学家 Timothy Gowers 在其博客发文探讨 AI 带来的灭绝风险应被如何看待，文章在 Hacker News 上引发讨论。内容涉及 AI 安全与存在性风险的理性评估。
Hacker News – AI16 天前
★ 2
互动文章：计算你的 AI 末日概率 p[DOOM]
一篇Medium互动文章邀请读者计算个人对AI风险的「末日概率」p[DOOM]，引导批判性思考AI存在性风险。文章在Hacker News获得6分与8条评论讨论。
Hacker News – AI21 天前
★ 2
AI从业者担忧AI可能毁灭人类，网站收录其亲述
一个名为frominside.ai的网站汇集了AI从业者关于AI存在性风险的直接陈述，多位业内人士表达对AI可能带来灾难性后果的担忧。内容反映行业内部对安全问题的分歧与焦虑。
Hacker News – AI33 天前
★ 2
HN 讨论 AI 灭绝的可能路径
Hacker News 用户发起讨论，追问 AI 导致人类灭绝的一条可信路径究竟是什么。提问者列举了现实投射有限、物理隔离有效、博弈格局动态变化三点理由，认为灭绝论缺乏具体机制，并邀请他人提出竞争性假说。
Hacker News – AI42 天前
★ 2
专家设想 AI 末日情景
专家们对 AI 可能引发的末日情景进行了探讨，包括人类灭绝等极端风险。文章梳理了相关推演与担忧，属于 AI 安全与存在性风险讨论的一部分。
Hacker News – AI43 天前
★ 2
AI末日论的基础并不牢固
一篇评论文章质疑AI末日论（AI Doomsday）的论证基础，认为其推理存在薄弱环节。文章加入关于AI存在性风险的持续辩论，主张对极端悲观预测保持审慎。
Hacker News – AI43 天前
★ 2
Socher：不存在 AI 灭绝人类的现实场景
AI 研究者 Richard Socher 在社交平台发文称，不存在任何现实场景会导致 AI 消灭全人类，对 AI 生存风险论调提出直接反驳。该观点引发社区讨论，触及 AI 安全与存在性风险这一长期争议话题。
Hacker News – AI46 天前
★ 2
提问：仅存在于线上的 AI 为何威胁人类？
一位 Hacker News 用户发问，质疑 AI 若仅存在于网络为何能构成人类存亡威胁，认为从黑客攻击、虚假信息到毁灭人类之间存在巨大逻辑跳跃。讨论涉及 AI 对物理世界、武器系统与生物风险的现实可达性。
Hacker News – AI49 天前
★ 1
变革性 AI 与真实利率关系研究
一篇学术论文探讨变革性 AI、存在性风险与真实利率之间的关系，尝试从经济学角度分析 AGI 对金融市场的影响。该内容偏学术且受众极窄，Hacker News 上仅获 1 分。
Hacker News – AI47 天前