Retour au feed
arXiv cs.LG·

FAIR-Calib: Frontier-Aware Instability-Reweighted Calibration for Post-Training Quantization of Diffusion Large Language Models

Signal
72
Hype
15
En 3 lignesFAIR-Calib propose une méthode de quantification post-entraînement (PTQ) pour les modèles de langage diffusifs (dLLMs). Le framework en deux étapes protège les décisions fragiles à la frontière d'écriture en pondérant les états cachés instables, sans rollouts diffusion coûteux. Résultats sur LLaDA et Dream (W4A4) montrent réduction des erreurs de quantification.
Lire la source
Ton avis ?
LlamaFine-tuningPapersBenchmarks

Résumé généré par Claude — vérifié par l'humain