Finally pioneering beyond the local 256k context window frontier!
Signal
35
Hype
25
En 3 lignesUn utilisateur de r/LocalLLaMA rapporte avoir dépassé la limite de 256k tokens en contexte, atteignant 341.5k tokens avec compression automatique. Il teste l'éviction en cache des clés-valeurs et prévoit de repousser progressivement cette limite.Lire la source
Ton avis ?
Résumé généré par Claude — vérifié par l'humain