L'infrastructure IA désigne l'ensemble des ressources matérielles et logicielles qui permettent d'entraîner et de déployer des modèles. Cela inclut par exemple les clusters GPU d'AWS (EC2 P5) ou les frameworks de serving comme Ray Serve.
RelGT-AC étend RelGT pour les tâches d'autocomplétion sur bases de données relationnelles. Le modèle combine un masquage de colonnes, une tête unifiée (classification/régression) et un encodeur TF-IDF pour texte libre. Sur 7 tâches RelBench v2, il surpasse GraphSAGE sur 3 tâches de régression et gagne +10 AUROC sur tâches textuelles.
Article proposant une architecture modulaire pour systèmes d'agents IA embarqués sur microcontrôleurs. Découple agents locaux (réseaux compressés, logique règles) d'agents cloud (SLMs pour raisonnement). Intègre couche gouvernance pour observabilité et sécurité sur flottes distribuées.
AURA-Mem propose une mémoire récurrente de taille constante (4,224 bytes) pour les politiques robotiques, avec une porte apprise qui n'écrit en mémoire que si l'observation change l'action suivante. Sur LIBERO-Long avec OpenVLA-OFT 7B, elle égale la politique de base (0.233 de succès) tout en réduisant les écritures mémoire de 7× et la consommation VRAM de 6,061× vs KV-cache.
MiniMax introduit une nouvelle architecture d'attention (MSA) supportant nativement 1M tokens sans complexité quadratique. Approche « KV outer gather Q » offrant 4× plus rapide que Flash-Sparse-Attention, réduction compute à 1/20e, 9× speedup prefilling, 15× decoding. Premier modèle open-weight combinant coding frontier, 1M contexte et multimodalité native.
Un utilisateur a intégré un GPU datacenter V100 dans son PC gaming pour £200 et a documenté son expérience d'exécution de modèles locaux. Le billet a généré un intérêt significatif au-delà de Reddit.
Microsoft lance Project Solara, une plateforme matérielle dédiée aux applications IA. Le projet vise à fournir une infrastructure optimisée pour l'exécution de modèles d'IA en production.
StepFun 3.5 MTP intégré dans llama.cpp avant Gemma MTP. Pull request #23274 ajoute le support du modèle StepFun avec architecture MTP (Multi-Token Prediction).
Face à l'absence de cadre réglementaire clair sur l'IA, les Américains s'opposent à la construction de data centers, perçus comme les cibles tangibles du débat technologique. Cette stratégie contourne les difficultés politiques d'une régulation directe de l'IA.
La Linux Foundation lance DNS-AID (Agent IA Discovery), un projet open source utilisant le DNS comme couche de découverte pour les agents IA. Cette approche décentralisée s'oppose aux registres propriétaires des hyperscalers (OpenAI, Google, Anthropic).
Wasmer est un runtime WebAssembly pour exécuter des conteneurs légers et sécurisés. Le projet gagne en popularité sur GitHub Trending, positionnant WebAssembly comme alternative aux conteneurs traditionnels.
mistral.rs est un framework d'inférence LLM optimisé pour la vitesse et la flexibilité. Projet open-source permettant l'exécution efficace de modèles de langage.
OpenShell est un runtime sécurisé et privé pour agents IA autonomes, développé par NVIDIA. Le projet est disponible sur GitHub et vise à fournir une infrastructure d'exécution contrôlée pour les systèmes multi-agents.
Headroom compresse les sorties d'outils, logs, fichiers et chunks RAG avant envoi au LLM. Réduit de 60-95% les tokens consommés sans dégrader les réponses. Disponible en library, proxy et serveur MCP.
Alphabet prévoit de lever jusqu'à 80 milliards de dollars pour renforcer ses infrastructures d'IA face à la concurrence mondiale.
Benchmark complet de 8 petits LLMs (135M–1B) sur Jetson Orin Nano Super 8GB avec llama.cpp CUDA, testés en 4 modes de puissance (7W–MAXN). Mode 25W optimal : SmolLM2-135M atteint 165 tok/s et 22.6 tok/J ; LFM2.5-1.2B meilleur en classe ~1B (54.1 tok/s). 384 cellules de benchmark, données brutes publiées.
Snowflake et Anthropic renforcent leur partenariat pour déployer Claude directement dans les environnements d'entreprise avec gouvernance intégrée. L'intégration vise à faciliter l'adoption d'IA gouvernée en entreprise.
STMicroelectronics relève sa guidance data center à 1 Md$ pour 2026, malgré une chute du résultat net de 89%. Le fabricant franco-italien ajuste ses prévisions à la hausse sur le segment des centres de données.
Berkshire Hathaway de Warren Buffett investit 10 milliards de dollars dans l'infrastructure IA d'Alphabet. Alphabet lève 80 milliards pour scaler ses capacités IA, avec dépenses en capital prévues à 190 milliards en 2026.
Qwen 3.6-35B-A3B atteint 977 tokens/s en traitement de prompt et supporte une fenêtre de contexte de 262k sur Intel Arc B70 Pro via llama.cpp avec backend SYCL. L'utilisateur rapporte une inférence locale stable et utilisable pour des tâches complexes comme la génération de jeux.
OpenAI rend GPT-5.5, GPT-5.4 et Codex accessibles via Amazon Bedrock aux mêmes tarifs que sa plateforme. Les modèles fonctionnent dans les régions AWS commerciales et gouvernementales, limités aux États-Unis. L'utilisation s'ajoute aux contrats AWS existants.
Un utilisateur a construit un pipeline de scraping à grande échelle agrégéant 2M+ offres d'emploi actives de 100,000+ sites carrière d'entreprises. Dataset en Parquet, mis à jour quotidiennement, accessible gratuitement avec champs standards (titre, entreprise, description, localisation, URL).
Benchmarks llama.cpp sur Intel Arc Pro B70 publiés. Performance mesurée : 63 tokens/sec avec Qwen via SYCL. Test de GPU discret Intel pour inférence locale.
Vercel permet désormais de configurer les paramètres Git de tous les projets d'un monorepo en un seul endroit, au lieu de passer par chaque projet individuellement. Les paramètres incluent le statut de commit et les événements repository_dispatch.
ART (Attention Run-time Termination) est un mécanisme léger qui interrompt l'accès aux blocs KV lors du décodage si leur contribution à l'attention devient négligeable. Testé sur LongBench, il améliore le débit de génération de 20% en grands batches tout en préservant la précision.
Papier de synthèse proposant l'Intelligent Computing Architecture Model (ICAM), un cadre à 6 couches pour l'informatique model-native. Mappe les concepts d'architecture informatique classique aux systèmes LLM (gestion de cache, contexte, agents). Introduit trois lois de conception : Semantic Locality Law, Context Budget Law, Agent Speedup Law. Distingue plan d'exécution probabiliste et plan de contrôle déterministe.
Article arXiv sur l'optimisation du batching pour l'inférence LLM. Les auteurs montrent que le mixed batching (MB) n'est pas toujours optimal : sur GPUs à bande passante limitée (RTX PRO 6000), le batching exclusif (EB) surpasse MB de 41,9% en débit. Ils proposent EB+, un scheduler hybride qui bascule dynamiquement entre EB et MB selon la bande passante GPU et la composition de la charge.
BudgetDraft entraîne un drafter sparse pour la décodage spéculatif en contexte long (4K-16K tokens). La méthode expose le modèle à plusieurs budgets KV pendant l'entraînement et aligne chaque vue sparse avec une cible full-cache partagée. Résultats : 6.55x, 4.46x, 2.10x speedup vs décodage autorégressif à 4K, 8K, 16K tokens.
Sortie de micropython-wasm 0.1a0 : un paquet expérimental qui combine une build WASM de MicroPython avec un wrapper wasmtime pour exécuter du code Python en sandbox.
NVIDIA annonce Cosmos 3 (modèle vidéo), Nemotron 3 Ultra (LLM optimisé) et RTX Spark. Jensen Huang revendique une victoire majeure pour l'entreprise.
Vercel Blob propose désormais des URLs signées limitées dans le temps pour télécharger, envoyer, inspecter ou supprimer des objets sans accès complet au stockage. Chaque URL est restreinte à une opération unique, un chemin spécifique et une expiration jusqu'à 7 jours. Les uploads multipart permettent au navigateur de streamer directement vers Blob sans passer par le serveur.
ROCm sous Linux supporte désormais WSL2 de manière stable, bien que des bugs subsistent. Instructions de compilation fournies pour les utilisateurs.
Un chercheur ayant travaillé plusieurs mois sur verl (framework RL post-training de ByteDance) détaille ses internals : orchestration des boucles RLHF, pattern single-controller, structures de données (DataProto), et un bug NCCL découvert. Fork abandonné mais expérience documentée pour la communauté.
OpenAI rend ses modèles frontier et Codex accessibles via AWS. Les utilisateurs peuvent désormais déployer GPT-4, GPT-4 Turbo et Codex directement sur l'infrastructure AWS sans passer par l'API OpenAI.
Correction : les 600 GB/s annoncés pour RTX Spark correspondent à la bande passante NVLink, non à celle du GPU. Les médias ont confondu les deux spécifications selon les slides de Computex.
Alphabet annonce une levée de fonds de 80 milliards de dollars en capital-actions pour étendre son infrastructure IA et sa capacité de calcul. Cette injection massive vise à soutenir la croissance des services IA et renforcer la position concurrentielle du groupe face aux autres géants technologiques.
llama.cpp version b9455 fusionne un correctif majeur pour la quantification du KV cache en mode tensor sur multi-GPU. La solution étend le backend meta pour gérer correctement l'aplatissement des tenseurs sans perdre les informations de forme, évitant ainsi de modifier les graphes de calcul.
L'Ohio suspend les allègements fiscaux pour les datacenters qui épuisent ses finances publiques. La décision intervient après des années de subventions massives aux infrastructures d'IA sans retour fiscal proportionnel.
Intel présente Crescent Island à Computex 2026, un GPU professionnel basé sur l'architecture Arc Xe 3P avec jusqu'à 480 GB de VRAM en LPDDR5X. TDP de 350W, support des formats FP4/MXFP4 à FP64 pour les workloads IA nouvelle génération.
Vercel déploie la surveillance automatique de la mémoire sur ses machines de build élastiques. Le système ajuste dynamiquement les ressources pour éviter les défaillances OOM : upgrade automatique si la mémoire approche du seuil, dégradation évitée pour les builds rapides mais gourmands.
NVIDIA RTX Spark disposera de 600GB/s de bande passante mémoire, le double de DGX Spark (273GB/s). Architecture mémoire unifiée avec 128GB LPDDR5X.