Teaching Diffusion to Speculate Left-to-Right

En 3 lignesLes modèles de diffusion peuvent accélérer le décodage spéculatif des LLM en générant des blocs de tokens en parallèle. Cet article identifie un décalage entre l'entraînement bidirectionnel et la vérification gauche-à-droite, et propose trois interventions (pondération positionnelle, focal loss, chain loss) qui augmentent la longueur acceptée des drafts de 21-76% sur six benchmarks sans coût supplémentaire.

Résumé généré par Claude — vérifié par l'humain