行业
Metanorm(元规范)
元规范指在AI系统中用于指导规范生成或评估的高层规范,确保系统行为符合伦理与法律。
详细解释
元规范是AI治理中的概念,指对规范本身进行约束的规范,如公平、透明、可问责等原则。在AI对齐中,元规范帮助设计奖励函数或伦理准则,避免规范冲突。其背景是AI系统日益复杂,需要更高层次的框架来协调具体规则。
别名与相关写法
metanorm
元规范指在AI系统中用于指导规范生成或评估的高层规范,确保系统行为符合伦理与法律。
元规范是AI治理中的概念,指对规范本身进行约束的规范,如公平、透明、可问责等原则。在AI对齐中,元规范帮助设计奖励函数或伦理准则,避免规范冲突。其背景是AI系统日益复杂,需要更高层次的框架来协调具体规则。