技术
Byzantine Robustness(拜占庭鲁棒性)
拜占庭鲁棒性指分布式系统或机器学习模型在存在恶意节点或异常数据时仍能正常工作的能力,解决恶意攻击下的可靠性问题,典型应用包括联邦学习和分布式训练,代表工作有Krum、Trimmed Mean等聚合规则。
详细解释
拜占庭容错源于分布式系统领域,要求系统在部分节点任意故障或恶意行为下仍能达成一致。在机器学习中,拜占庭鲁棒性关注分布式训练时恶意工作者发送错误梯度的问题。常用方法包括基于距离的聚合(如Krum)、中位数、修剪均值等。该方向对联邦学习的安全至关重要。
别名与相关写法
byzantine robustness