Try ik_llama.cpp with MTP if you have limited VRAM. You will be pleasantly surprised!

En 3 lignesik_llama.cpp surpasse llama.cpp en performance MTP sur RTX 4070 Super 12GB. Avec Qwen3.6-35B-A3B-IQ4_XS, l'utilisateur atteint 110.24 tok/s en moyenne et 87.49% d'acceptance rate. Configuration optimisée fournie avec paramètres spécifiques de cache et quantization.

Résumé généré par Claude — vérifié par l'humain