Use context profiler to optimize your LLM calls and reduce token use
Signal
45
Hype
25
En 3 lignesContextSpy est un outil de profilage open-source qui analyse l'utilisation du contexte dans les applications LLM. Fonctionnant comme proxy local, il enregistre les requêtes et décompose l'allocation des tokens (prompt système, définitions d'outils, historique) pour identifier les optimisations possibles, similaire à un profiler CPU/mémoire.Lire la source
Ton avis ?
Résumé généré par Claude — vérifié par l'humain