DLLG: Dynamic Logit-Level Gating of LLM Experts
Signal
75
Hype
25
En 3 lignesDLLG propose un framework d'ensembling dynamique au niveau logit pour fusionner plusieurs LLMs spécialisés. Un module de gating léger prédit des poids de fusion token-par-token à partir de supervision au niveau réponse, sans labels token-level ni réentraînement. Surpasse routing, ensembling heuristique et parameter merging sur benchmarks reasoning et code.Lire la source
Ton avis ?
Résumé généré par Claude — vérifié par l'humain