Why doesn’t 4-bit GPTQ wreck a model’s perplexity? I derived the compensation math from scratch

En 3 lignesAnalyse mathématique détaillée de GPTQ : la quantification 4-bit préserve la perplexité en traitant les poids comme corrélés. L'auteur dérive la règle de mise à jour via multiplicateurs de Lagrange, explique l'amortissement Hessien 1%, la décomposition de Cholesky et l'optimisation mémoire C-contiguë.

Résumé généré par Claude — vérifié par l'humain