ScaleSweep: Accurate NVFP4 Post-Training Quantization of LLMs via Block Scale Initialization

En 3 lignesScaleSweep optimise la quantification NVFP4 (format FP4 4-bit supporté par hardware) des LLMs via balayage de candidats d'échelle de bloc. Théoriquement borné pour réduire l'espace de recherche, la méthode préserve >93% des performances full-precision sur Llama et Qwen en quantification end-to-end (poids, activations, KV cache, query states).

Résumé généré par Claude — vérifié par l'humain