AI Doom（AI 末日论）

AI Doom 是 AI 安全领域的一种极端立场，认为不受控制的超级智能可能消灭人类。其背景源于对目标对齐问题的担忧：如果 AI 的目标与人类价值观不一致，且能力远超人类，可能产生灾难性后果。Bostrom 提出“回形针最大化”思想实验，Yudkowsky 则强调对齐研究的紧迫性。该观点引发广泛讨论，推动 AI 安全研究、伦理规范和全球治理。尽管争议巨大，但它促使人们重视 AI 风险，并影响了政策制定和公众认知。