Les papers sont des articles de recherche scientifique publiés par des laboratoires ou universités pour présenter de nouvelles découvertes en IA. Par exemple, le paper "Attention Is All You Need" (Google, 2017) a introduit l'architecture Transformer.
Audit systématique des benchmarks FOLIO et MALLS révélant 39% et 36% d'erreurs dans les formalisations FOL. Les auteurs publient des annotations corrigées et un framework LLM pour guider la relabélisation manuelle, permettant d'atteindre 90% de précision en révisant <24% des instances. Tests sur Gemma 31B, Qwen3-30B et GPT-4o-mini montrent des gains de +9 à +22 points.
Padyam2Gadyam : dataset de 600 poèmes télougous classiques (13e-17e siècles) avec traductions en prose télougou et anglaise modernes. Évaluation de 5 LLM contemporains révèle des performances insuffisantes et des limites des métriques MT existantes.
Les chercheurs proposent Bank of Values (BoV), une méthode remplaçant les vecteurs de valeur contextuels par des vecteurs sans contexte stockés comme paramètres creux dans les derniers tiers des couches. Sur modèles 135M et 780M, BoV améliore la perte de validation et les performances sur 21 benchmarks avec moins de calcul et mémoire.
Étude arXiv montrant que les LLM ne déduisent pas bien les caractéristiques socio-démographiques des utilisateurs à partir d'un historique conversationnel unique. Les disparités observées dans les conseils (juridique, médical, financier) sont faibles mais présentes. Les sujets de conversation s'avèrent plus prédictifs que les données socio-démographiques et affectent les réponses de manière imprévisible.
Étude arXiv sur les représentations des LLM : le chevauchement lexical influence les embeddings plus que le contenu sémantique, persiste à travers les couches et architectures, et dégrade les performances en résumé et édition de modèles.
RelGT-AC étend RelGT pour les tâches d'autocomplétion sur bases de données relationnelles. Le modèle combine un masquage de colonnes, une tête unifiée (classification/régression) et un encodeur TF-IDF pour texte libre. Sur 7 tâches RelBench v2, il surpasse GraphSAGE sur 3 tâches de régression et gagne +10 AUROC sur tâches textuelles.
Étude de trois approches pour générer automatiquement les morphologies d'ennemis dans les jeux vidéo basées sur les données de collision. Les méthodes testées surpassent ou égalent une baseline évolutionnaire adaptée de travaux en robotique.
Méthode pour extraire des primitives de raisonnement à partir de traces d'agents ReAct. Les routines récurrentes sont regroupées et converties en pseudo-outils typés. Les bibliothèques induites surpassent l'agent source : +44pp sur RuleArena NBA, +30pp sur MuSR, +22pp sur NatPlan.
BehaviorBench est un benchmark pour évaluer la modélisation des décisions personnalisées à partir de traces comportementales réelles. Construit sur 2 000 portefeuilles avec 141 445 instances de prédiction de croyances et 1 485 972 instances de prédiction de transactions, il teste si les modèles génératifs peuvent adapter leurs prédictions aux utilisateurs individuels sans simulation.
Étude comparative d'un Transformer encoder-only vs LSTM pour prédire le débit en bassins non jaugés. Sur données NOAA NWM, l'LSTM surpasse le Transformer. L'intégration d'informations aval améliore tous les modèles (+60% NNSE médian). La mémoire récurrente s'avère mieux adaptée à cette tâche d'inférence hydrologique.
Étude montrant que les graphes visuels aident les LLM à organiser le raisonnement multi-sauts mieux que leur représentation textuelle. Les graphes structurés en mind maps guident le modèle sans indices directs, contrairement aux graphes aplatis en texte. L'avantage persiste après fine-tuning supervisé et distillation KL.
Étude comparative de règles d'apprentissage (backprop, feedback alignment, predictive coding, STDP) via alignement RSA avec fMRI V1 humain. Backprop détruit 90% de l'alignement V1 après 1 epoch (r: 0.102→0.011), tandis que PC et STDP ne perdent que 25-31%. À epoch 40: PC/STDP >> BP/FA. Suggère un trade-off fondamental entre signaux d'erreur globaux (couches hautes) et alignement précoce.
Livre d'introduction mathématique aux fondations de l'IA générative. Couvre VAE, diffusion, normalizing flows, autoregressive models, GANs, Wasserstein GANs et energy-based models via une approche dérivation-orientée. Auteur : Tianhua Chen.
Niels de Hugging Face annonce paperswithcode.co, une plateforme de suivi SOTA relancée. Nouvelle fonctionnalité : indexation des conférences majeures (NeurIPS, CVPR, ICML). Les 2026 papiers CVPR sont catalogués par tâche, avec liens arXiv, GitHub, pages projet, artefacts HF et évaluations.
ExpGraph, un préprint arXiv du 29 mai 2026, propose une architecture de mémoire en graphe auto-évolutif pour agents LLM. Le système accumule l'expérience via des nœuds et arêtes dynamiques, permettant aux agents d'améliorer leurs performances sur des tâches complexes sans réentraînement.
Étude théorique des taux d'apprentissage optimaux dans les réseaux de neurones linéaires à 2-3 couches. Dérivation de formules fermées exactes pour les gradients et la perte après 1-2 étapes de descente de gradient. Résultat clé : les taux d'apprentissage inégaux minimisent la perte en phase initiale, tandis que les taux égaux deviennent optimaux après. Code disponible.
InfoAtlas est un modèle fondation capable d'estimer l'information mutuelle entre variables haute-dimensionnelles en une seule passe forward, sans optimisation itérative. Préentraîné sur données synthétiques, il atteint 100× d'accélération par rapport aux estimateurs neuraux classiques tout en maintenant la précision et généralise à des scénarios réels complexes.
Étude théorique montrant comment les transformers apprennent à implémenter une recherche en arbre (DFS) via RL. Un transformer à deux têtes d'attention émerge naturellement d'un entraînement par gradient de politique sur des arbres stochastiques, sans démonstrations expertes. Le modèle généralise à des profondeurs non vues et adapte sa stratégie selon les distributions d'objectifs.
Nouvelle méthode de détection d'anomalies dans les graphes spatio-temporels basée sur les shifts d'énergie spectrale. Détecte les anomalies camouflées (variation spectrale réduite) que les approches existantes manquent. Framework compatible avec message passing, sans modules séquentiels spécialisés.
Nouvel article arXiv proposant des approximations discrètes pour SG(L)D avec et sans momentum, permettant des prédictions précises de la covariance stationnaire et du temps d'autocorrélation intégré. Bornes d'erreur non-asymptotiques pour l'ajustement pratique et la quantification d'incertitude, validées sur modèles mal spécifiés et grands batch sizes.
PROBE, un framework d'optimisation pour agents LLM en conception de médicaments, résout le conflit entre affinité de liaison et druggabilité. Via probing d'édits contrôlés et une site map spécifique à la poche, il guide une boucle multi-agent (affinité, druggabilité, co-optimisation) sur CrossDocked2020 avec résultats SOTA.
La quantification post-entraînement (PTQ) réduit la précision des modèles de raisonnement et augmente la longueur des chaînes de pensée. 52% des erreurs proviennent de réponses correctes trouvées mais non finalisées. Une pénalité logit sans entraînement sur les marqueurs de surréflexion ("wait", "but") réduit la longueur de 12-23% tout en préservant la précision sur 5 modèles (1.5B-32B).
DOPA, un framework de recherche de démonstrations, utilise un proxy OOD pour approximer le domaine cible inaccessible et guide la récupération de démonstrations pertinentes. Une contrainte de diversité basée sur la distance de Mahalanobis assure la variété des exemples sélectionnés. Résultats positifs sur plusieurs LLMs et tâches en contexte de distribution shift sévère.
DLLM-JEPA combine les architectures JEPA avec les modèles de langage par diffusion masquée pour l'apprentissage auto-supervisé. Élimine le besoin de paires multi-vues explicites et réduit les FLOPs d'entraînement de 33% vs LLM-JEPA. Améliore les performances de +18.7pp sur GSM8K (LLaDA-8B) et +11.4pp (Dream-7B) tout en préservant les capacités de base.
Étude des métriques d'accord pour l'évaluation par LLM-as-Judge. Analyse de 24 papiers récents montrant que pour les critères binaires (MET/UNMET), Pearson r, Spearman ρ, Kendall τ_b et phi sont redondants. Cohen's κ seul ajoute de l'information. Les auteurs proposent une checklist de reporting incluant l'échelle de jugement, la gestion des abstentions et la matrice de confusion.
TOPD (Trajectory-aware On-Policy Distillation) améliore l'apprentissage du raisonnement en LLM en utilisant des informations de trajectoire future pour identifier les vrais états divergents. Sur AIME24/25, TOPD atteint 63.3%/53.3% vs 60.0%/46.7% en OPD standard, montrant que 30% des tokens haute-perte sont des faux positifs.
Nouvelle métrique automatisée (Triangulated Preference Shift score) pour mesurer les biais lexicaux introduits lors de l'apprentissage par préférence (RLHF) dans les LLM, sans annotation manuelle. Analyse sur 6 familles de modèles révèle une tendance vers un « langage de prestige » (suremploi de « delve », « furthermore »).
ProtStructQA est un benchmark exécutable pour la réponse à des questions sur les structures protéiques. 382.2K questions générées depuis un langage spécialisé caché, évaluées sur Qwen3 (0.6B–8B) et Gemma-3. Découverte clé : seuil de capacité entre Qwen3-1.7B et 4B où les modèles passent de l'incapacité à produire des dénotations exécutables à la maîtrise du raisonnement chaîné.
Étude théorique et empirique des limites de l'édition de paramètres dans les LLM. Les auteurs démontrent via l'hypothèse d'effondrement dimensionnel que les modifications localisées propagent des interférences globales dégradant les capacités du modèle. Les méthodes par récupération surpassent systématiquement l'édition paramétrique.
SPADER est un framework RL pour agents LLM augmentés d'outils en Multi-Answer QA. Il introduit Step-wise Peer Advantage (SPA) pour l'attribution de crédit fine-grained sur trajectoires longues, et une récompense d'exploration sensible à la diversité favorisant la découverte d'entités rares. Évalué sur QAMPARI, Mintaka, WebQSP, QUEST : amélioration du recall et F1 vs prompting et RL supervisé.
Article de position sur la robustesse post-résolution dans les moteurs de décision MILP. Identifie un écart : les solutions optimales nominales deviennent infaisables sous petites perturbations de coûts ou ressources. Propose une couche d'audit formalisée autour de la solution incumbente, combinant approximations certifiées, estimation probabiliste et vérification solver-backed.
Nouvelle approche de Bayesian Optimization (PIBO) exploitant la théorie du transport optimal pour optimiser les layouts de parcs éoliens offshore. PIBO gère l'invariance par permutation (l'ordre des turbines n'affecte pas la production), réduit le temps de calcul de ~50% et améliore les solutions par rapport à BO classique.
Un article arXiv présente le Universal Quantum Transformer (UQT), une architecture quantique utilisant les propriétés multi-qubits pour le raisonnement mathématique exact. Sur 5 qubits, l'UQT apprend parfaitement l'arithmétique modulaire (Z₁₁) et l'algèbre non-abélienne (S₄), sans instabilité stochastique. Déployé sur IBM Quantum, il contourne le goulot quadratique de l'attention classique.
AbaqusAgent est un framework multi-agents basé sur LLM pour l'analyse par éléments finis (FEA) en mécanique des solides. Composé de six agents (interpréteur, architecte, rédacteur, exécuteur, vérificateur, visualiseur), il convertit des instructions en langage naturel en analyses FEA exécutées avec Abaqus. Validé sur 50 problèmes avec 86% de succès.
TIGER est une méthode d'inférence pour réduire les hallucinations dans la génération multimodale. Elle construit un graphe d'observations à partir de l'entrée et un graphe de claims à partir de la sortie, puis assigne des scores de risque basés sur le support et les conflits. Le modèle répare les claims à haut risque sans modifier le backbone. Convergence garantie avec réduction géométrique du risque.
Hoeffding Concept Bottleneck Models (HCBM) remplacent l'agrégation linéaire des concepts par une décomposition non-linéaire et sparse basée sur les arbres boostés. Robustes aux fuites inter-concepts, ils améliorent l'explainabilité des prédictions en vision par ordinateur, notamment sur images aériennes.
Demo2Reward optimise les instructions textuelles des modèles de récompense VLM au moment du test, en utilisant 3-10 démonstrations d'experts pour réduire les faux positifs en robotique. Aucun entraînement supplémentaire requis. Validation sur tâches simulées et transfert réel.
Les réseaux de tenseurs non-linéaires automatiquement différentiables (ADNTNs) compressent les poids de réseaux de neurones via des tenseurs cœurs entraînés par différenciation automatique. Testés sur AlexNet et VGG-16, ils atteignent des ratios de compression de 2000× à 77000× par couche avec précision préservée ou améliorée.
Geodesic Flow Matching adapte le transport Riemannien pour débruiter les Spatial Semantic Pointers (SSPs) sur des variétés toriques. Testé sur un système SLAM neuronal à pics, la méthode réduit l'erreur de suivi de 72% et augmente l'efficacité neurale de 40% par rapport aux baselines.
Framework hybride couplant LLMs avec simulation physique pour planifier la synthèse de matériaux inorganiques. Étude sur le système niobium-oxygène : les routes de synthèse générées par LLM surpassent les algorithmes classiques de planification de chemin en exploitant des priors implicites.