FTRL（跟随正则化领导者）

FTRL由McMahan等人于2010年提出，用于大规模在线学习。它在每一步选择使累积损失加上正则项最小的参数，通常结合L1和L2正则，产生稀疏解。FTRL-Proximal是其高效实现，广泛应用于点击率预测等工业场景，能处理高维稀疏特征并保证收敛性。