A prism hierarchy of learning regimes in large linear autoencoders
Signal
72
Hype
15
En 3 lignesÉtude théorique des régimes d'apprentissage extrêmes dans les autoencodeurs linéaires de grande taille. Les auteurs identifient cinq régimes fondamentaux (large-data, small-data, mean-field, narrow-latent, free) associés aux faces d'un prisme triangulaire. Expressions explicites dérivées pour l'évolution de la perte en gradient flow.Lire la source
Ton avis ?
Résumé généré par Claude — vérifié par l'humain