ROBUST SGLD ALGORITHM FOR SOLVING NON-CONVEX DISTRIBUTIONALLY ROBUST OPTIMISATION PROBLEMS
创建于 更新于
摘要
本文提出了一种针对非凸分布鲁棒优化（DRO）问题的鲁棒 SGLD 算法，通过对对偶化、网格离散与 Nesterov 平滑处理并结合 SGLD 的非渐近收敛分析，给出了可显式量化的误差分解和非渐近收敛上界，从而能够在任意精度 ε 下输出期望超额风险小于 ε 的估计器；并在一个带对抗扰动的神经网络回归任务上验证了鲁棒 SGLD 相较于 vanilla SGLD 在测试均方误差上的优势 [page::0][page::3].
