Retour au feed
Reddit r/LocalLLaMA·

Vidai Community is now available: one Rust binary for cost attribution, guardrails and multi-provider routing on every LLM call

Signal
72
Hype
35
En 3 lignesVidai Community, binaire Rust open-source, unifie cost attribution, guardrails et multi-provider routing pour appels LLM. Intégration one-line via changement base_url (OpenAI/Anthropic/Google). Attribution de coûts par user/team/model, budgets hard, overhead 1.95ms, 21,803 RPS sur single node.
Lire la source
Ton avis ?
OutilsInfrastructureOpen sourceMulti-agents

Résumé généré par Claude — vérifié par l'humain