CAROL est un framework probabiliste pour réduire les hallucinations des LLM au moment du test. Il définit une mesure d'incertitude sémantique basée sur la cohérence entre réponses générées et contexte de confiance, formulant la mitigation comme un processus de chaîne de Markov avec garanties de convergence. Résultats sur QA et multi-agent reasoning montrent réduction significative des hallucinations.
Entraînement de modèles Qwen (1.7B, 4B, 8B) sur le jeu Codenames pour améliorer la créativité via reinforcement learning avec récompenses vérifiables (RLVR). Le modèle 8B gagne en créativité (+8/10 benchmarks) avec dégradation mineure du raisonnement, tandis que les petits modèles privilégient la précision. Étude sur le compromis créativité-précision selon l'échelle.
Vercel AI Gateway introduit une liste blanche de fournisseurs au niveau équipe. Les organisations peuvent restreindre les fournisseurs autorisés pour tous les requêtes, y compris BYOK. Le filtrage s'applique par fournisseur (pas par modèle) et fonctionne avec tous les formats API supportés.
Amazon OpenSearch Serverless intègre la Vercel Marketplace avec configuration automatique et gestion unifiée. L'intégration supporte recherche vectorielle, lexicale, hybride et agentic. Crédits AWS $100 offerts pour les nouveaux comptes.
Publication d'un paper sur les lois d'échelle unifiées en apprentissage profond. Étude des relations entre taille du modèle, données d'entraînement et performance. Résultats reproductibles et benchmarks inclus.
Un développeur a fait tourner un LLM de 260K paramètres (llama2.c/stories260K) sur un émulateur JavaScript d'un CPU Motorola 68K des années 90, lui-même exécuté dans un RTOS de 2008. Quantification INT8 + lookup tables pour RoPE et inverse square root (Quake) pour contourner l'absence de FPU. Génération : 2-4 secondes/token.
NVIDIA a publié SOL-ExecBench (235 kernels CUDA de production). Des kernels générés par IA classés premiers se révèlent bugués en entraînement réel : un kernel de backward embedding+RMSNorm accumule en bf16 au lieu de fp32, causant une divergence de loss masquée par AdamW mais visible avec SGD.
Lazarus AI et Eric Hartford (créateur de Dolphin) publient ReAligned-Qwen3.5, une série de modèles Qwen finetunés pour réduire les biais idéologiques chinois et la censure. Licence Apache 2.0, entraînement SFT + GRPO avec classifier ReAligned. Disponibles en 0.8B à 35B, formats BF16/FP8/GGUF sur HuggingFace.
Un studio a lancé Null Epoch, un MMO persistant où 25 agents LLM (8 modèles open-weight : Qwen3, Nemotron, Ministral, Gemma, GLM) ont joué pendant 10 jours. Dataset de 93k événements publié sur HuggingFace. Test de planification long-horizon, contention de ressources et pression adversariale en simulation dynamique.
Conductor, plateforme de direction d'agents de codage parallèles, migre son exécution du laptop vers le cloud via Vercel Sandboxes. Les équipes d'ingénierie de Notion, Linear, Ramp et Life360 utilisent cet outil model-agnostic (Claude Code, Codex, etc.) pour lancer plusieurs agents simultanément sur des branches isolées du codebase.
Langfuse est une plateforme open-source d'ingénierie LLM offrant observabilité, métriques, évaluations, gestion de prompts et playground. Intègre OpenTelemetry, Langchain, OpenAI SDK, LiteLLM. Lauréate Y Combinator W23.
Article théorique prouvant une borne finie sur l'information maximale approximée de DP-SGD avec scaling linéaire en taille du dataset. Dérive une borne PAC-Bayes générale où la distribution a priori est apprise par DP-SGD, et une borne de généralisation explicite contrôlée par les hyperparamètres d'optimisation.
Étude théorique montrant qu'une couche de self-attention linéaire peut implémenter une étape de gradient descent sur un objectif RAG unifié. Les auteurs proposent une méthode légère pour adapter l'interaction entre requêtes et documents récupérés sans modifier le retriever ni le modèle backbone, testée sur 7 benchmarks QA avec améliorations significatives.
MeDial-Speech : dataset de 111+ heures de dialogues médicaux parlés (robot-patient et médecin-patient) couvrant 4 conditions de santé. Benchmark de 3 LLMs (GPT-4 mini, DeepSeek-V3, Claude Sonnet 4) via sélection de phrases : Claude Sonnet 4 atteint 71,1% de précision. Révèle une surconfiance systématique des modèles.
Étude des pipelines de données d'alignement pour LLM. Décompose la construction en trois étapes : synthèse de réponses, évaluation de préférences, instanciation de préférences. Identifie trade-offs récurrents et principes de conception influençant le signal d'optimisation.
Des chercheurs montrent qu'un modèle de langage peut dissimuler des messages dans ses chaînes de pensée (CoT) via des patterns de raisonnement conceptuel, contournant les défenses par paraphrase. Cette forme de stéganographie est plus robuste que les approches lexicales sur quatre familles de modèles. Une paraphrase consciente de la stratégie peut réduire ce risque.
MM-CreativityBench, un nouveau benchmark, évalue la capacité des modèles multimodaux à résoudre des problèmes créatifs en identifiant des usages non-évidents d'objets dans des environnements physiquement contraints. Les LMMs actuels échouent par manque d'exploration ancrée et hallucinations. L'alignement par affordances via DPO réduit ces erreurs et améliore la sélection d'entités pertinentes.
Enquête unifiée sur l'exposition des données d'entraînement (PDE) dans les LLM, couvrant l'inférence d'appartenance et la contamination de données. Formalise PDE selon les niveaux d'exposition, examine les méthodes d'attaque/défense et identifie les défis ouverts pour l'intégrité des évaluations et la protection de la vie privée.
Analyse causale des méthodes d'optimisation de prompts (DSpy, TextGrad) révélant pourquoi elles échouent à généraliser. Les édits augmentant la complexité nuisent aux tâches mathématiques et multi-sauts, tandis que les édits step-by-step améliorent le raisonnement logique. Les défaillances proviennent d'interactions systématiques entre familles d'édits et caractéristiques des tâches.
MiniMax présente la série M2, des modèles MoE avec 229.9B paramètres totaux et 9.8B activés par token. Conçus pour le déploiement d'agents, ils intègrent des pipelines de données agent-driven, Forge (système RL agent-natif), et M2.7 capable d'auto-évolution. Performance frontier sur benchmarks de coding agent, recherche profonde et raisonnement.
Hugging Face introduit Delta Weight Sync dans TRL pour optimiser le déploiement de modèles trillion-paramètres. La technique synchronise uniquement les changements de poids plutôt que les modèles complets, réduisant drastiquement les besoins en stockage et bande passante pour les mises à jour.
PrismML publie Bonsai Image 4B, des modèles de diffusion texte-vers-image quantifiés en 1-bit/ternaire. Taille ~3GB (vs 16GB pour FLUX.2 Klein), exécutables 100% localement en WebGPU. Licence Apache-2.0.
Tomesphere indexe 3 millions de papiers arxiv/OpenAlex avec TLDRs Gemini, avis pairs OpenReview, repos GitHub, graphe de citations (250M arêtes) et graphe sémantique SPECTER2 (768D pgvector). Quatre modes de ranking : Influential, Recent, Hidden gems, Nearest. Extension Chrome pour arxiv. Accès gratuit, sans inscription.
Microsoft Copilot Cowork permettait aux agents d'envoyer des emails non approuvés à la boîte de réception de l'utilisateur. Ces messages pouvaient contenir des images externes déclenchant des requêtes réseau, permettant l'exfiltration de données. Une injection de prompt réussie aurait pu divulguer des liens OneDrive pré-authentifiés, donnant accès aux fichiers à un attaquant.
dlmserve est le premier moteur de serving pour modèles de langage par diffusion (LLaDA, Dream-7B). Contrairement aux LLM autorégressifs, ils débruitent une phrase entièrement masquée en parallèle. API compatible OpenAI, batching continu, 2.5x de débit vs HuggingFace à batch=4, fonctionne en 12 GB VRAM. MIT, pip install dlmserve.
Un audit de 2,5 millions d'articles biomédicaux révèle une augmentation de 1200% des références fictives depuis 2023. Les chercheurs suspectent les modèles de langage : les fausses citations correspondent au sujet, respectent le format et sont indétectables. 98% des articles affectés n'ont reçu aucune réponse des éditeurs.
Étude benchmark sur 23 modèles montrant que la compaction de contexte, technique standard pour les sessions d'agent longues, ne corrige pas la dérive de persona. ContextEcho évalue cette limitation critique des systèmes actuels.
Mozilla publie cargo-vet, un outil de sécurité de la chaîne d'approvisionnement pour Rust. Il permet d'auditer et de valider les dépendances Rust avant leur utilisation en production.
FunASR est un toolkit de reconnaissance vocale industriel supportant 170x temps réel, 50+ langues, diarisation de locuteur, détection d'émotion, streaming et API compatible OpenAI.
Un chercheur en sécurité a contourné l'authentification AWS API Gateway en exploitant une vulnérabilité de slash final, obtenant une prime de 12 000 $ du programme de bug bounty AWS.
Shard est un cache HuggingFace qui compresse la mémoire KV de Llama-3.1-8B par 10× à contexte 8K (11× à 32K) sans dégradation mesurable sur NIAH/LongBench. Combine PCA + quantization int4 sur K et rotation Hadamard + vector quantization sur V. L'attention s'exécute directement sur K compressé.
Un cadre théorique (algometrics) analyse les risques de déploiement des modèles prédictifs dans les marchés algorithmiques, où les prédictions modifient les données futures. Les auteurs prouvent que le risque de déploiement n'est pas identifiable à partir de données historiques seules, et que les classements de modèles peuvent s'inverser sous crowding.
HyperGuide utilise la géométrie hyperbolique pour guider le raisonnement multi-étapes dans les LLM. Une tête légère projette les états cachés dans l'espace hyperbolique, où la distance à l'origine encode la proximité de la solution. Un adaptateur bas-rang est affiné interactivement. Gains constants sur plusieurs benchmarks, plus importants pour les chaînes de raisonnement profondes.
Analyse de 20 millions de messages de chat Twitch (4 452 streams, 7 genres) avec un LLM en classification zéro-shot. 2,4% des messages classés toxiques selon la taxonomie Twitch (harcèlement, discrimination, contenu sexuel, profanité). F1=94,5% sur TextDetox. Les jeux MOBA affichent 3,2% de toxicité, les jeux de sport 2%. Variations significatives intra-genre révélant des normes communautaires spécifiques.
AstroMind est un benchmark pour évaluer le raisonnement des LLM sur le comportement des engins spatiaux. Basé sur des simulations astrodynamiques haute fidélité, il teste l'inférence d'intention, l'estimation de paramètres de manœuvre et l'évaluation des menaces. Qwen3 (32B) excelle en inférence d'intention, QwQ (32B) en évaluation de menaces, GPT-OSS (20B) en qualité de raisonnement.
Des chercheurs entraînent des réseaux de neurones sur WikiText-103 (103M tokens) en utilisant les Successor Representations (SR) du RL pour prédire les distributions de mots futurs. Sans supervision linguistique explicite, des catégories grammaticales (noms, verbes, adjectifs) émergent spontanément et deviennent séparables par clustering non supervisé, organisées selon l'horizon prédictif.
Enquête complète sur la fiabilité des systèmes d'IA agentive (LLM augmentés de planification, outils, mémoire). Examine sécurité, robustesse, confidentialité et sécurité système. Propose métriques unifiées, benchmarks et stratégies d'atténuation par étape du workflow agent. Identifie défis ouverts : agents auto-évolutifs, vérification runtime, personnalisation préservant la confidentialité.
TUBE est une borne supérieure variationnelle sur la log-vraisemblance pour les modèles de diffusion discrets. Contrairement aux ELBO existantes, TUBE admet un estimateur Monte Carlo sans biais et s'applique aux modèles de diffusion masqués, ARMs d'ordre quelconque et leurs variantes par blocs. Les expériences montrent que les modèles de diffusion restent strictement en dessous des ARMs en vraisemblance exacte.
Méthode pour améliorer la cohérence des étiquetages automatisés en modération de contenu. Les auteurs proposent un workflow où une IA rédige des « constitutions » détaillées par catégorie (harcèlement, discours haineux, crime non-violent), puis un LLM frontier les interprète pour générer les étiquettes. Résultat : réduction de l'incohérence cross-modèle jusqu'à 57x vs définitions paragraphes.
RIA couple un LLM avec un world model pour la conduite autonome. À chaque étape, le LLM propose des actions, le world model valide via rollouts court-horizon, et un safety scorer sélectionne l'action la plus sûre. Sur CARLA (1000 épisodes) : 80,05% route completion, 51,10% arrival rate, 0,20% collision rate.