Retour au feed
Vercel AI Blog·

Sort providers by cost, latency, or throughput on AI Gateway

Signal
72
Hype
18
En 3 lignesVercel AI Gateway permet désormais de trier les fournisseurs de modèles par coût, latence (TTFT) ou débit (TPS). Le tri s'effectue à chaque requête, intégrant automatiquement les changements de prix et de performance sans modification de code. Compatible avec Zero Data Retention et les options de routage existantes.
Lire la source
Ton avis ?
OutilsInfrastructureBusiness

Résumé généré par Claude — vérifié par l'humain