PSA: Test your "threads" argument in llama.cpp (+80% performance in my case)
Signal
72
Hype
25
En 3 lignesBenchmark llama.cpp sur CPU Intel 250K Plus : optimiser l'argument --threads améliore les performances de +80% (49 → 88 tok/s). 16 threads optimal vs 6 threads (P-cores uniquement). Avec 18 cores, baisse de performance sans throttling détecté.Lire la source
Ton avis ?
Résumé généré par Claude — vérifié par l'humain