Everyone here self-hosts inference. Almost nobody self-hosts the tooling around it. That feels backwards to me.

En 3 lignesUn utilisateur de r/LocalLLaMA soulève une incohérence : la communauté auto-héberge les modèles (partie la plus difficile) mais externalise les outils (tracing, evals, monitoring) vers des SaaS. Il argue que des solutions open-source (Langfuse, ragas, Open WebUI) permettent désormais d'héberger la stack complète localement sans appels externes.

Résumé généré par Claude — vérifié par l'humain