New MLX LM Server From Apple
Signal
65
Hype
25
En 3 lignesApple lance MLX LM Server, un serveur d'inférence optimisé pour les puces M5. Offre traitement rapide des prompts via accélérateurs neuraux, batching continu pour requêtes concurrentes, et inférence distribuée sur plusieurs Macs via Thunderbolt RDMA. Installation via pip.Lire la source
Ton avis ?
Résumé généré par Claude — vérifié par l'humain