Retour au feed
Reddit r/MachineLearning·

I built mlx-Chronos — a community benchmark leaderboard for local LLM engines on Apple Silicon (oMLX, Rapid-MLX, mlx-lm, Ollama) [P]

Signal
72
Hype
25
1 autres source couvrent ce sujet →
En 3 lignesmlx-Chronos est un outil CLI open-source et leaderboard communautaire pour benchmarker les moteurs d'inférence LLM locaux sur Apple Silicon (oMLX, Rapid-MLX, mlx-lm, Ollama). Mesure TTFT, throughput, RAM, et état thermique avec méthodologie standardisée. Actuellement peuplé uniquement par résultats M2 8GB.
Lire la source
Ton avis ?
Open sourceBenchmarksInfrastructureOutils

Résumé généré par Claude — vérifié par l'humain