行业
AI Existential Risk（AI 生存风险）
AI存在性风险指人工智能可能对人类生存造成灭绝级威胁的假设性风险，如超级智能失控。它关注长期影响，推动安全研究，代表工作包括牛津大学未来人类研究所和OpenAI的安全团队，旨在确保AI与人类价值观对齐。
详细解释
存在性风险源于AI能力可能超越人类控制，导致不可逆的灾难。核心问题包括价值对齐、可解释性和控制问题。技术说明涉及超级智能的不可预测性、目标误设和权力寻求。尽管争议较大，但该领域促进了AI安全研究，如可扩展监督和对抗性鲁棒性。
别名与相关写法
ai existential risk