Faster assisted generation support for Intel Gaudi

En 3 lignesHugging Face ajoute le support de la génération assistée sur Intel Gaudi, accélérant l'inférence des modèles de langage. La technique utilise un modèle plus petit et rapide pour générer des tokens candidats, validés par le modèle principal, réduisant la latence globale.

Résumé généré par Claude — vérifié par l'humain