Superintelligence（超级智能）

超级智能概念由哲学家Nick Bostrom等推广，指一种在智力上全面超越人类的AI。它可能通过递归自我改进或大规模计算实现。超级智能可能带来巨大益处，但也存在失控风险，如目标与人类价值观不一致。因此，AI对齐研究旨在确保超级智能的安全。