Small Experiments, Cheaper Decisions: A Case Study in Staged Promotion for Micro-Pretraining

En 3 lignesÉtude d'un protocole de promotion par étapes pour le micro-préentraînement sur deux architectures (A100, L40S). À partir de 12 configurations, les auteurs utilisent des budgets croissants (2, 5, 10, 60 min, 12h) avec règles de promotion gelées. Le coût total : 169,2 GPU-heures vs 432 si tous les candidats à 10 min avaient continué.

Résumé généré par Claude — vérifié par l'humain