Retour au feed
Reddit r/LocalLLaMA·

Minimax M3 (4 bit MLX) Initial Benchmark on Mac Studio M3u 512gb

Signal
72
Hype
15
En 3 lignesBenchmark du modèle Minimax M3 en 4-bit MLX sur Mac Studio M3 512GB. Résultats : TTFT 3.1s (pp1024/tg128), throughput 147.7 tok/s, pic mémoire 226.6GB. Batching continu : speedup 1.83x à 4 requêtes parallèles (49.9 tok/s).
Lire la source
Ton avis ?
BenchmarksOpen sourceInfrastructure

Résumé généré par Claude — vérifié par l'humain