I compared all specs of the major GPUs/machines that are being used here, because bandwidth is not everything. Some of ya'll need a reality check.
Signal
35
Hype
15
En 3 lignesAnalyse comparative des GPU/machines pour LLM : critique de l'efficacité réelle des Mac Studio, réévaluation des cartes anciennes (P100, V100, P40) comme alternatives bon marché aux 3090, et appel à distinguer prefill vs generation dans les benchmarks. L'auteur collecte des données de performance et consommation électrique.Lire la source
Ton avis ?
Résumé généré par Claude — vérifié par l'humain