A failed experiment: Infini-Attention, and why we should keep trying?

En 3 lignesHugging Face analyse l'expérience Infini-Attention, un mécanisme d'attention censé gérer des contextes infinis. L'article documente l'échec de cette approche et plaide pour continuer l'exploration des solutions de contexte long.

Résumé généré par Claude — vérifié par l'humain