Finally finished my LLM server: EPYC 9575F, 4× RTX 3090 (96GB VRAM), 768GB ECC RAM
Signal
35
Hype
15
En 3 lignesServeur LLM personnel assemblé : AMD EPYC 9575F (64C/128T), 4× RTX 3090 (96GB VRAM), 768GB RAM ECC. Destiné à vLLM pour petits modèles haute débit et llamacpp pour modèles de raisonnement. Cas d'usage : inférence IA pour NPCs dans simulation spatiale.Lire la source
Ton avis ?
Résumé généré par Claude — vérifié par l'humain