NGM: A Plug-and-Play Training-Free Memory Module for LLMs

En 3 lignesNGM est un module mémoire sans entraînement pour LLM qui utilise un encodeur N-gram causal et un injecteur mémoire à porte cosinus. Testé sur Qwen3 (0.6B-14B), il améliore les performances de 0.5-1.2 points en moyenne, avec gains notables en génération de code (+3.0 LiveCodeBench) et tâches knowledge-intensive (+3.03 GPQA).

Résumé généré par Claude — vérifié par l'humain