Retour au feed
Reddit r/LocalLLaMA·

Gemma 4 QAT benchmark results (AMD 7900 XTX): faster, less VRAM, no quality loss

Signal
72
Hype
25
En 3 lignesBenchmark QAT (Quantization-Aware Training) de Gemma 4 sur AMD 7900 XTX : le modèle 12B QAT est 45% plus rapide que Q8_0 (176s vs 323s), économise 5.7GB VRAM, qualité identique. Les 26B et 31B QAT offrent aussi des gains de vitesse (1.3x-1.5x) sans dégradation de qualité.
Lire la source
Ton avis ?
GeminiBenchmarksOpen source

Résumé généré par Claude — vérifié par l'humain