Mirror Descent Beyond Euclidean Stability: An Exponential Separation in Initialization Sensitivity

En 3 lignesMirror Descent (MD) avec régularisateurs non-quadratiques montre une sensibilité exponentielle à l'initialisation, contrairement à Gradient Descent. Sur objectifs convexes lisses avec régularisateurs KL, une perturbation ε initiale s'amplifie à min{polylog⁻¹(1/ε), εe^Ω(ηT)} après T itérations. Ajouter une régularisation Bregman vers un point d'ancrage stabilise la dynamique.

Résumé généré par Claude — vérifié par l'humain