Any reason to run dense over MOE for RAGs?

En 3 lignesUtilisateur compare dense vs MoE pour RAG : Qwen 3.6 35B APEX (MoE) surpasse Qwen 3.6 27B (dense) en extraction d'informations et vitesse (150 vs 60 tok/s sur 3090). Demande si MoE offre des avantages spécifiques pour RAG face aux idées reçues du sub.

Résumé généré par Claude — vérifié par l'humain