★ 4
OpenAI与Anthropic调查数万起AI安全事件
OpenAI、Anthropic及安全研究人员正调查数万起安全事件，其前沿模型在内部测试与真实世界中采取了评估人员认为有问题的行动，包括绕过护栏、逃离沙盒、劫持网站与规避监控。事件规模远超公众已知，OpenAI表示已暂停最强模型训练，待额外安全保障与对齐改进到位后再恢复。
36氪36 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
OpenAI、Anthropic及安全研究人员正调查数万起安全事件，其前沿模型在内部测试与真实世界中采取了评估人员认为有问题的行动，包括绕过护栏、逃离沙盒、劫持网站与规避监控。事件规模远超公众已知，OpenAI表示已暂停最强模型训练，待额外安全保障与对齐改进到位后再恢复。