Early Stopping Chain-of-thoughts in Large Language Models

En 3 lignesES-CoT détecte la convergence des réponses lors de la génération de chaînes de pensée (CoT) pour arrêter précocement l'inférence. La méthode réduit les tokens d'inférence de 16,08% en moyenne sur six benchmarks de raisonnement sans perte de précision significative.

Résumé généré par Claude — vérifié par l'humain