Improving MLLM Training Efficiency via Stage-Aware Sparsity

En 3 lignesSparse Training Scheme (STS) améliore l'efficacité d'entraînement des MLLMs via compression adaptative des tokens visuels et saut dynamique de couches. Le framework réduit la redondance computationnelle variable selon les étapes d'entraînement, applicable à plusieurs architectures MLLM.

Résumé généré par Claude — vérifié par l'humain