Retour au feed
OpenAI Blog·

Prompt Caching in the API

Signal
75
Hype
20
En 3 lignesOpenAI introduit le prompt caching dans son API, réduisant automatiquement les coûts des entrées que le modèle a récemment traitées. Cette fonctionnalité diminue la latence et les frais pour les requêtes répétitives.
Lire la source
Ton avis ?
OpenAIPrompt engineeringOutils

Résumé généré par Claude — vérifié par l'humain