Value-and-Structure Alignment for Routing-Consistent Quantization of Mixture-of-Experts Models

En 3 lignesVSRAQ, une méthode de quantification post-entraînement pour modèles Mixture-of-Experts, préserve la sélection d'experts lors de la quantification en alignant les valeurs de routage et la structure des décisions top-k. Réduit la dégradation sans surcoût d'inférence.

Résumé généré par Claude — vérifié par l'humain