The Shadow Price of Reasoning: Economic Perspective on Optimal Budget Allocation for LLMs

En 3 lignesPapier arXiv proposant CLEAR, une méthode d'allocation optimale de budget de calcul pour l'inférence LLM basée sur la théorie économique. Via une fonction d'utilité « shifted-surge » et un prix fantôme global, CLEAR abandonne les requêtes non-solvables et réalloue les ressources. Résultats : 3x d'amélioration en précision globale vs allocation uniforme en régimes de ressources limitées.

Résumé généré par Claude — vérifié par l'humain