技术
Zeroth-Order Optimization
零阶优化只利用函数输出值、不依赖梯度，通过采样估计方向来优化黑盒目标函数。
详细解释
经典优化依赖解析梯度，但很多场景（如调用闭源模型 API、强化学习奖励、仿真器）只能获得函数值。零阶方法通过随机扰动或坐标采样估计梯度方向，典型算法包括 SPSA、进化策略和 CMA-ES。它在黑盒对抗攻击、提示优化和大模型微调中重新受到关注，代价是采样开销大、高维时方差高。
别名与相关写法
zeroth order optimization
零阶优化只利用函数输出值、不依赖梯度，通过采样估计方向来优化黑盒目标函数。
经典优化依赖解析梯度，但很多场景（如调用闭源模型 API、强化学习奖励、仿真器）只能获得函数值。零阶方法通过随机扰动或坐标采样估计梯度方向，典型算法包括 SPSA、进化策略和 CMA-ES。它在黑盒对抗攻击、提示优化和大模型微调中重新受到关注，代价是采样开销大、高维时方差高。