Attribution-Guided and Coverage-Maximized Pruning for Structural MoE Compression
Signal
72
Hype
18
En 3 lignesMéthode de compression structurelle pour modèles MoE (Mixture-of-Experts) via élagage au niveau des canaux. Utilise une approche d'attribution pour maximiser la couverture des scores de canaux. Tests sur DeepSeek et Qwen montrent 50% d'élagage structurel avec quantification 4-bit, réduction mémoire 5.27× sur Qwen3-30B-A3B.Lire la source
Ton avis ?
Résumé généré par Claude — vérifié par l'humain