ByteDance prépare ses propres CPU Arm et RISC-V pour reprendre le contrôle du coût par token
Signal
72
Hype
28
En 3 lignesByteDance développe ses propres processeurs Arm et RISC-V pour réduire les coûts d'inférence de ses modèles. Le groupe traite 120 000 milliards de tokens/jour avec Doubao et cherche à diminuer sa dépendance aux GPU Nvidia en optimisant l'infrastructure serveur.Lire la source
Ton avis ?
Résumé généré par Claude — vérifié par l'humain