Prompt Caching in the API
Signal
75
Hype
20
En 3 lignesOpenAI introduit le prompt caching dans son API, réduisant automatiquement les coûts des entrées que le modèle a récemment traitées. Cette fonctionnalité diminue la latence et les frais pour les requêtes répétitives.Lire la source
Ton avis ?
Résumé généré par Claude — vérifié par l'humain