Framework pour générer des erreurs synthétiques ciblées avec LLM selon une taxonomie cognitive (Bloom révisée). Un Generation Agent produit des solutions erronées, un Examination Agent valide leur cohérence avec le mode d'erreur spécifié. Testé sur TheoremQA, révèle que générer des erreurs authentiques est bien plus difficile que produire des réponses fausses arbitraires.
Étude arXiv sur la géométrie représentationnelle lors de l'apprentissage en contexte (ICL) dans les LLM. Les chercheurs montrent que la performance ICL corrèle avec la structure représentationnelle des tâches et que l'ICL réussi s'accompagne d'une réorganisation géométrique augmentant la séparabilité. Le comportement des LLM suit un algorithme de type prototype.
Étude comparative de 7 modèles transformer (MiniLM à LLaMA-2, 22M à 13B paramètres) pour la modélisation de sujets via BERTopic. Résultat : la taille du modèle n'impacte négligemment la qualité des sujets mesurée par cohérence et divergence. Les petits modèles égalent les performances des grands.
M2R (Micro-Macro Retrieval) est un framework retrieve-while-generate qui réduit les hallucinations dans la génération longue des LLM. Il combine une récupération macro (preuves externes) et micro (informations clés du raisonnement) pour maintenir la proximité entre données factuelles et sorties. Entraîné par reinforcement learning avec récompenses basées sur des règles.
Framework de classification de défauts d'équipements de transmission électrique utilisant un MLLM. Approche par in-context learning sur modèles commerciaux, génération de Q&A par chain-of-thought pour réduire l'annotation manuelle, puis fine-tuning de Qwen3-VL-8B via LoRA. SOTA sur trois tâches de classification.
KOFF décompose les LLM en backbone partagé épars et modules mémoire externes spécialisés. Sur Llama et Qwen (3B-8B), le framework préserve les performances à 12% de sparsité globale en utilisant des adaptateurs LoRA et des caches KV appris, tandis que l'élagage sans mémoires dégrade fortement le modèle.
Baymex, algorithme évolutionnaire multi-objectif, apprend des réseaux bayésiens discrets pour la classification clinique. Parallélisé sur 16 cœurs (speedup 54×), il optimise cross-entropy et complexité BIC. Sur données réelles (RADCURE, SUPPORT), il égale ou surpasse arbres de décision, régression logistique et forêts aléatoires, tout en produisant modèles interprétables.
Q-ALIGN DT aligne les modèles de séquences conditionnés en garantissant que la valeur Q de la politique correspond au return-to-go (RTG) d'entrée. La méthode utilise une fonction Q pour guider l'apprentissage et un fine-tuning par perturbation RTG. Résultats : meilleure contrôlabilité sur D4RL et généralisation à des tâches comme le velocity-tracking.
CosmicFish-HRM est un modèle compact avec un module de raisonnement hiérarchique (HRM) qui alloue dynamiquement l'effort computationnel pendant l'inférence. Le modèle apprend à arrêter selon la complexité de l'entrée, combinant cycles de raisonnement haut/bas niveau avec Grouped Query Attention, RoPE et SwiGLU. Les résultats montrent un comportement de raisonnement non-uniforme adapté aux tâches.
Détection d'attaques par injection de fausses données sur réseaux électriques via un détecteur informé par l'espace cyclique. Les auteurs proposent une méthode robuste contre les attaques d'autoencodeurs qui exploitent l'espace nul des mesures, en utilisant les contraintes topologiques du réseau et la base de cycles minimale pour améliorer la détection.
RACE-Sched, un framework multi-agent asynchrone, résout le problème d'ordonnancement dynamique en découplant exécution temps-réel (heuristiques symboliques) et raisonnement long-horizon (LLM). Un dépôt sémantique de règles validées améliore la transferabilité. Surpasse les baselines Deep RL et LLM sur GEN-Bench, MK-Bench, JMS-Bench.
Nouvelle approche de distillation de contexte formulée comme gestion de mémoire latente. Chaque contexte est distillé en adaptateur LoRA indépendant formant une banque mémoire modulaire. Un mécanisme Self-Gating décide de l'activation des mémoires latentes. Cache sharing réduit la surcharge d'inférence.
D-BOS (Differentiable Belief-based Opponent Shaping) est une méthode MARL qui façonne les adversaires en différenciant à travers les dynamiques de croyance bayésienne softmax sur k étapes. Contrairement aux approches existantes, elle traite l'état de croyance comme cible de façonnage plutôt que les paramètres ou politiques. Résultats : surpasse PPO et BBM dans les jeux à rôles cachés, notamment en contextes mixtes.
Étude sur l'impact du ton des prompts sur la performance des LLM. Tests sur ChatGPT-4o, ChatGPT-5-nano, Gemini 2.5 Flash/Lite avec 50 questions de base et 570 questions MMLU (57 sujets) en 5-7 variantes tonales. Résultats : effets tonals systématiques mais très dépendants du modèle, avec variations d'accuracy significatives selon le sujet.
Méthode pour prédire la dégénérescence conversationnelle (insultes personnelles) en ligne. Découple la décision d'alerte de l'estimation de probabilité en utilisant des simulations prospectives pour évaluer les chemins de récupération possibles. Réduit les faux positifs sans sacrifier la précision.
Diagnostic de mesure pour évaluer des construits comme l'« esprit entrepreneurial » dans des discours d'entreprises chinoises. Sur 80 discours de dirigeants d'entreprises d'État, les auteurs testent LDA, des scoreurs dictionnaires et Qwen3.5:9b. Le modèle LLM atteint d=1.09 en contraste appairé, mais la moitié de l'effet provient du style du locuteur. Corpus de 2 190 segments et lexique de slogans publiés.
Étude de l'effet des personas sur les explications générées par des agents multimodaux LLM en perception urbaine. Analyse de 59,808 annotations de 1,200 agents avec personas : les légendes convergent fortement, les justifications varient selon les attributs socioéconomiques/politiques, les tags de perception restent stables.
Redpanda propose une architecture de plan de données pour agents IA autonomes utilisant des canaux de métadonnées hors-bande. Ces canaux appliquent les politiques de sécurité, les classifications de données et les contraintes comportementales en dehors du chemin de lecture/écriture de l'agent, empêchant les hallucinations et manipulations. Démonstration avec un système multi-agent de rééquilibrage de portefeuille.
SovSim, un framework de simulation multi-agent, évalue comment 11 modèles LLM gèrent les ressources communes sous structures de pouvoir asymétriques. Résultat : l'introduction d'un agent avec pouvoir disproportionné (boss/roi) provoque une dégradation de 87,3% du taux de survie et des effondrements de coopération comparé aux paramètres symétriques.
LLMBridge est un système basé sur LLM pour la résolution de bridging référentiel en anglais. Le pipeline combine pré/post-traitement heuristique avec l'inférence en langage naturel des LLM. Évalué sur ISNotes, BASHI et GUMBridge, il surpasse l'état de l'art sur les trois datasets en configuration end-to-end et gold anaphor.
Vercel alerte sur le vol d'inférence IA : une requête à un modèle frontier coûte ~$2, créant une opportunité lucrative pour les attaquants. Les limites de débit et l'authentification par session sont insuffisantes ; Vercel propose BotID pour vérifier chaque requête IA individuellement et prévenir les pertes massives.
Chercheurs proposent une « couche interprétative » (Behavioral Specification) pour personnaliser les décisions d'IA selon les préférences utilisateur. Testée sur 14 corpus autobiographiques, elle améliore la précision représentationnelle de 25× avec moins de contexte que le corpus brut, tout en réduisant l'hésitation du modèle. Efficace sur questions d'interprétation, moins sur questions factuelles.
Étude qualitative auprès de 8 chercheurs en IA révélant un paradoxe : ils se méfient des classements LLM mais les utilisent quand même. Les réseaux pairs dominent la sélection de modèles. Les chercheurs en NLP subissent une pression SOTA absente en HCI/Systèmes. Demande unanime : transparence des coûts.
Article proposant une méthode de résumé de graphiques via Program-of-Thoughts (PoT) : les VLMs génèrent des programmes Python pour extraire des statistiques valides plutôt que du texte direct. Introduit une tâche auxiliaire chart-to-dictionary. Résultats comparables aux méthodes existantes sur métriques sémantiques et factuelles.
GPF-LiveNews est un protocole d'évaluation en continu pour auditer comment les LLM encadrent les événements d'actualité pour différents publics. Testé sur 23 modèles et 12 cycles de monitoring, il mesure les variations sémantiques et de sentiment selon 42 labels d'identité. Les résultats montrent que les prompts Policy/Action produisent le plus fort mouvement sémantique.
Thoughts-as-Planning formalise l'optimisation des chaînes de raisonnement comme un processus de décision séquentielle sur un espace sémantique latent. Le framework apprend un modèle du monde latent simulant l'effet des édits de chaînes de raisonnement sur les sorties, supportant édits multi-échelle (token, segment, instruction) via planification par descente de gradient ou RL.
STHTD-MP, une nouvelle méthode de temporal-difference off-policy, remplace la métrique de covariance par la matrice de Bellman induite par la politique de comportement dans la formulation primal-dual. Analyse de convergence formelle et comparaison spectrale avec GTD2-MP montrent des gains potentiels sur benchmarks (Random Walk, Boyan Chain).
Article théorique sur la stabilisation de l'apprentissage par différence temporelle hors-politique avec approximation de fonction. Propose BA-TDC et BA-TDRC, remplaçant la matrice auxiliaire de TDC par la matrice de Bellman comportementale. Analyse linéaire avec convergence prouvée sous condition de stabilité Hurwitz; expériences sur chaînes de Markov et contres-exemples classiques.
Étude comparative de quatre algorithmes de syllabification du néerlandais (Brandt Corstius, Liang, Trogkanis-Elkan CRF, et un modèle deep learning). Le modèle deep learning combinant informations phonétiques et orthographiques atteint 99,65% de précision (+0,14% vs littérature). Les algorithmes data-driven surpassent l'approche basée sur des règles.
Étude comparative de 9 modèles ASR (Whisper, Parakeet, Wav2Vec2) sur la parole enfantine en néerlandais. Whisper-medium fine-tuné atteint 5,54% WER sur JASMIN et 70,37% sur DART. Une méthode de sélection au niveau des énoncés identifie 42% (JASMIN) et 18,1% (DART) des utterances comme correctement prononcées avec précision ≥98,3%, réduisant le besoin de vérification manuelle.
BEAMS établit des benchmarks pour évaluer les outils IA en modélisation et simulation. Le projet open-source sd ai teste plusieurs LLMs sur des tâches comme la traduction causale, l'itération de modèles et le raisonnement causal. Les résultats montrent que les outils IA performent mieux en discussion qualitative qu'en raisonnement causal et correction d'erreurs quantitatives.
Des chercheurs proposent une méthode d'audit basée sur le désaccord entre modèles pour évaluer les LLM utilisés par les agences fédérales pour catégoriser les commentaires publics. Sur 1 260 commentaires USDA analysés avec 4 LLM, la divergence thématique inter-modèles dépasse la variation intra-modèle, et les annotateurs humains introduisent des cadres interprétatifs absents de l'ensemble.
TRACE, un agent LLM pour l'optimisation de composés pharmaceutiques, formule la sélection d'outils comme un problème de décision séquentielle. L'approche améliore les propriétés ADMET tout en préservant les sous-structures moléculaires critiques, surpassant les baselines sur plusieurs tâches d'optimisation.
Étude de l'apprentissage par renforcement en auto-jeu dans Big 2, un jeu de cartes à 4 joueurs avec information imparfaite. PPO surpasse Q-learning, SARSA et Monte Carlo Q-approximation contre des adversaires aléatoires, gloutons et heuristiques. La régularisation d'entropie modérée et l'auto-jeu en politique courante améliorent les performances.
Article arXiv proposant une architecture multi-agent avec mémoire sémantique et caching pour réduire les hallucinations LLM. Pipeline à trois étages (FrontEndAgent, SecondLevelReviewer, ThirdLevelReviewer) évalué sur 310 prompts. Résultats : réduction THS de -31,3% à -35,9%, taux de cache hit de 47,3%, réduction de 47% des appels LLM. Pas de réentraînement requis.
Framework modulaire pour générer des lexiques artificiels prononçables et typologiquement plausibles. Utilise PHOIBLE pour les inventaires phonémiques, trois grammaires phonologiques (déterministe, OT, MaxEnt), et une ontologie Swadesh-Leipzig-Jakarta. Évaluation sur perplexité n-grammes et divergence KL : les grammaires probabilistes surpassent les baselines sur 100-5000 formes.
Méthode pour créer des sondes linéaires détectant des concepts dans les embeddings des LLM. Les auteurs définissent un processus : délineation du concept via datasets contrastés, entraînement de sondes par couche, suivi sur contextes larges. Testé sur 4 concepts et 3 LLM différents. Objectif : monitoring scalable de nouveaux modèles.
COM, une stratégie pour les LLM de séries temporelles, intègre des contraintes géométriques dans l'initialisation et l'entraînement des embeddings de tokens. Elle préserve la continuité et l'ordinalité inhérentes aux séries temporelles, améliorant les performances sur plusieurs benchmarks d'analyse.
TaxDistill utilise la distillation de connaissances pour améliorer l'annotation taxonomique en métagénomique. GenomeOcean, un modèle fondation génomique de 500M paramètres, génère des soft labels pour entraîner un réseau étudiant léger, réduisant le bruit des outils de recherche initiaux. Sur 7 datasets CAMI2, TaxDistill améliore le F1 score de MMseqs2 de 0,763 à 0,941 sur le dataset Gastrointestinal.
Nouvelle méthode BMLR pour équilibrer l'apprentissage multimodal en restructurant l'espace des labels. Adresse le problème d'imbalance modale où certaines modalités convergent plus vite que d'autres. Approche novatrice agissant au niveau du label plutôt que du gradient.