Torch compile caching for inference speed

En 3 lignesReplicate implémente le caching des modèles compilés PyTorch pour réduire les temps de démarrage et d'inférence. La compilation est conservée entre les appels, éliminant la recompilation à chaque exécution.

Résumé généré par Claude — vérifié par l'humain