Retour au feed
Reddit r/LocalLLaMA·

'Am I OpenAI compatible' - a tool and documentation for unified api signatures in open source AI.

Signal
55
Hype
25
En 3 lignesOutil et documentation pour vérifier la compatibilité OpenAI des projets open-source (vLLM, llama.cpp, etc.). Documente les signatures officielles et non-officielles, avec extensions pour d'autres types de modèles. Utile pour intégrer des endpoints LLM dans des applications ou créer des proxies/middleware.
Lire la source
Ton avis ?
Open sourceOutilsInfrastructure

Résumé généré par Claude — vérifié par l'humain