llama.cpp Gemma4 MTP support merged!
Signal
72
Hype
18
En 3 lignesLe support MTP (Multi-Token Prediction) pour Gemma4 a été fusionné dans llama.cpp. Cette optimisation permet une génération de tokens plus rapide en prédisant plusieurs tokens simultanément.Lire la source
Ton avis ?
Résumé généré par Claude — vérifié par l'humain