Retour au feed
Reddit r/LocalLLaMA·

How small can the orchestration model in an agent be? (separating it from code-gen — that obviously wants a big model)

Signal
65
Hype
15
En 3 lignesUn développeur teste la taille minimale d'un modèle pour orchestrer une boucle ReAct locale. Qwen3.6-35B-A3B (MoE, ~3B actifs) est son seuil : en dessous, le modèle invente des paramètres d'outils ou généralise mal les appels. Il améliore la précision en exposant les signatures exactes dans le prompt système.
Lire la source
Ton avis ?
Agents IAQwenPrompt engineeringOpen source

Résumé généré par Claude — vérifié par l'humain