FYI llamacpp server can hot swap models now-a-days in under 30sec

En 3 lignesllama.cpp permet désormais de changer de modèle en moins de 30 secondes via une API de hot-swap fonctionnelle avec OpenWebUI et Hermes. L'opération est devenue significativement plus rapide qu'il y a quelques mois.

Résumé généré par Claude — vérifié par l'humain