RaBiT: Residual-Aware Binarization Training for Accurate and Efficient LLMs

En 3 lignesRaBiT propose une méthode de binarisation résiduelle pour quantifier les LLM en 2-bit. Elle résout le problème d'adaptation redondante entre chemins parallèles en dérivant séquentiellement chaque chemin binaire d'un poids partagé en précision complète. Résultats : performance SOTA, speedup 4.49× sur RTX 4090.

Résumé généré par Claude — vérifié par l'humain