Retour au feed
Reddit r/LocalLLaMA·

Qwen 3.6 27B 30GB Same top p: 98.358 ± 0.033 % vs UD Q8 K XL 33GB Same top p: 97.426 ± 0.041 %

Signal
62
Hype
25
En 3 lignesExpérience de quantification personnalisée sur Qwen 3.6 27B : conversion BF16→Q8_0 avec ciblage des couches à forte variance. Le modèle Q8-CC (30.47 GiB) obtient 98.358% vs UD Q8_K_XL (33.31 GiB) à 97.426% sur wiki.test.raw. KLD moyen : 0.011324 vs 0.012100. Résultats préliminaires sans benchmarks de performance réelle.
Lire la source
Ton avis ?
QwenOpen sourceBenchmarks

Résumé généré par Claude — vérifié par l'humain