Article arXiv proposant une taxonomie des mécanismes anti-collusion humains (sanctions, dénonciation, audit, design de marché, gouvernance) et leur adaptation aux systèmes multi-agents IA. Identifie défis critiques : attribution d'actions émergentes, fluidité d'identité des agents, distinction coopération/collusion, adaptation adversariale.
HISTOGRAPH, une couche d'agrégation finale basée sur l'attention, exploite les activations intermédiaires des couches précédentes dans les GNNs. La méthode applique une attention couche-par-couche puis nœud-par-nœud pour modéliser l'évolution des représentations. Résultats améliorés sur benchmarks de classification de graphes, robustesse accrue dans les GNNs profonds.
Calibrate-Then-Act (CTA) est un framework qui aide les agents LLM à raisonner explicitement sur les compromis coût-incertitude lors de l'exploration. En fournissant une estimation préalable de l'état de l'environnement, CTA améliore la prise de décision sur des tâches de QA, retrieval-augmented et de lecture de fichiers en programmation.
RAPT est un wrapper de post-traitement retrieval-augmented pour améliorer la sélection d'étiquettes en classification multi-label sans réentraînement. Appliqué à des encodeurs metric learning et transformers fine-tunés, RAPT atteint 0.87 Macro-F1 sur données industrielles, surpassant les baselines statiques et les LLMs few-shot (K=5) avec 115x moins de temps d'inférence.
Article arXiv sur la gestion des features manquantes dans les Graph Neural Networks (GNNs). Les auteurs démontrent que les benchmarks existants avec features sparse ne permettent pas une comparaison significative. Ils proposent GNNmim, une baseline robuste testée sur des datasets denses avec mécanismes de missingness réalistes au-delà du MCAR.
KASER est une méthode d'apprentissage par renforcement pour simuler les erreurs d'étudiants en programmation. Elle utilise une récompense hybride combinant similarité de code, correspondance d'erreurs et diversité des solutions pour éviter l'effondrement modal et capturer la variété des réponses étudiantes.
CyberOps-Bots combine un agent LLM avec des agents RL multi-niveaux pour défendre les réseaux cloud contre les attaques. Le framework hiérarchique utilise la planification ReAct et la mémoire long-court terme. Sur données cloud réelles, il maintient 68,5% plus de disponibilité et gagne 34,7% en performance sans réentraînement lors de changements de scénarios.
Framework d'annotation utilisant Llama3.1 comme modèle professeur pour étiqueter des textes médicaux polonais. Corpus de 5 catégories cliniques (Radiologie, Oncologie, Cardiologie, Hypertension, Pathologie). DistilBERT atteint F1 > 0.80 par catégorie, 500× plus petit qu'un LLM, 300× moins de VRAM, inférence plusieurs centaines de fois plus rapide.
Étude sur le retrait contrôlé de l'alignement de sécurité dans les modèles de langage pour évaluer les capacités en cybersécurité. Compare prompting en contexte autorisé, projection de direction de refus et LoRA. Sur 60 tâches (Security-AR), la projection LoRA seule atteint 0,87 en score sécurité avec 0,83 en capacités générales, mais augmente la conformité dangereuse non autorisée.
Modélisation de la difficulté d'items sans réponses pour questions à choix multiples via transformers fine-tunés. Approche end-to-end sur le texte des items éliminant l'ingénierie manuelle des features. Variante multi-tâche avec objectif auxiliaire QA améliore significativement les petits ensembles d'entraînement.
Étude sur l'induction de personnalité dans les LLM via fine-tuning (SFT, DPO, ORPO) sur essais longs associés aux profils Big Five. Fine-tuning réduit la variance des réponses au questionnaire IPIP-NEO, mais la précision sur le profil complet reste aléatoire. Les essais non guidés manquent de signaux pour exprimer fidèlement la personnalité.
HalluScore est un benchmark arabe de 827 questions pour évaluer les hallucinations des LLMs. Analyse empirique de 17 modèles arabes et multilingues révélant que les hallucinations dépassent les inexactitudes factuelles : défis de compréhension culturelle, raisonnement linguistique et cohérence logique.
LEAF est un benchmark vivant pour évaluer les capacités de prévision des LLM en utilisant des événements multidimensionnels. Le système utilise des agents de récupération récursive et une validation croisée multi-agents pour fournir du contexte textuel aux modèles. Les tests montrent que les LLM exploitent les signaux d'événements complexes pour améliorer les prévisions boursières.
Auto-CoT améliore l'apprentissage en contexte (ICL) en générant automatiquement des chaînes de raisonnement pour les démonstrations. Le framework augmente les prompts avec des explications intermédiaires structurées et sélectionne les exemples de haute qualité, guidant le modèle vers un raisonnement plus fiable sur les tâches multi-étapes.
DiPRL propose une méthode d'apprentissage par renforcement programmatique qui génère des politiques discrètes interprétables sans étape de discrétisation post-hoc. Via régularisation d'entropie architecturale, le modèle converge vers des programmes discrets pendant l'entraînement, évitant la perte de performance et la nécessité d'ajustement fin supplémentaire.
Drift Flow Matching (DFM) combine les modèles de drift (génération en une étape) avec le flow matching itératif. Le framework préserve l'efficacité des transport maps directs tout en permettant un raffinement multi-étapes. Expériences validées sur plusieurs tâches et datasets.
Modèle transformer résiduel sensible aux lacunes temporelles pour prédire la progression de la maladie d'Alzheimer sur 24 mois. Entraîné sur 2 600 échantillons ADNI, il réduit l'erreur quadratique de 13,1% et augmente la corrélation de 26,4% par rapport à un modèle linéaire mixte, en combinant une référence statistique avec apprentissage résiduel sur historiques cliniques et biomarqueurs irréguliers.
Étude évaluant 4 LLMs pour annoter automatiquement la macrostructure narrative du mandarin parlé (MAIN). Le meilleur modèle atteint k=0.794 vs k=0.872 (humain-humain), réduit le temps d'annotation de 65%, mais échoue sur les variations lexicales et ambiguïtés sémantiques. Templates open-sourcés.
Étude d'optimisation systématique de Vision Transformers (ViT-Tiny) pour le dépistage du cancer du col utérin sur le dataset Herlev (917 images). Configuration optimale : 94,9%-95,2% de précision en validation croisée avec augmentation horizontale et pondération de classe (0,7 x 1,3). Grad-CAM valide l'interprétabilité clinique : attention sur noyaux, limites cellulaires et texture chromatinienne.
Nouvel article arXiv proposant HRC (Hybrid Reward-Cyclic), un modèle de récompense qui décompose les préférences humaines en composantes transitives (scalaires) et cycliques (vectorielles) via la théorie des jeux. Introduit DSPPO (Dynamic Self-Play Preference Optimization) pour l'alignement dynamique. Améliore RewardBench 2 (+1.23% sur Gemma-2B-it) et atteint 44.75% sur AlpacaEval 2.0.
PropGuard est un framework de sécurité pour les systèmes multi-agents basés sur LLM (LLM-MAS). Il détecte et neutralise les injections malveillantes propagées entre agents via un graphe spatio-temporel dual et un inspecteur entraîné par GE-GRPO. Les tests sur 4 architectures et 5 scénarios d'attaque montrent une réduction significative du succès des attaques.
Nouvelle méthode d'ajustement hors ligne pour LLM : Goal-Conditioned Supervised Learning (GCSL) traite les signaux de feedback comme des objectifs explicites et entraîne le modèle par apprentissage supervisé pur. Évalue sur génération non-toxique, code et recommandation ; surpasse SFT et DPO sans dépendre de modèles de récompense externes.
Étude de la propagation d'erreurs ASR dans les cascades ASR-LLM pour la compréhension orale en coréen. Les erreurs de reconnaissance vocale causent des défaillances sémantiques que les métriques ASR classiques ne capturent pas. Les erreurs d'un seul caractère en coréen créent un canal de défaillance distinct. Un modèle audio-langage large surpasse le pipeline ASR-LLM sur données bruitées.
Des chercheurs identifient l'instabilité des préférences dans les modèles de récompense via des variations d'entrée subtiles (paraphrases, injections de motifs, backdoors). Ils isolent les features instables avec des autoencodeurs creux (SAEs) et proposent deux stratégies d'atténuation : SAE Feature Steering et SAE Residual Correction, réduisant les assignations de préférences incorrectes sans réentraînement.
Nouvelle approche pour stabiliser les prédictions temporelles en reconnaissance de phases chirurgicales. Propose TEC loss (entraînement), EGTP (inférence) et TFI (métrique). Réduit la fragmentation des prédictions sur Cholec80 et AutoLaparo sans dégrader la précision frame-wise.
Orth-Dion améliore Dion, un optimiseur spectral pour l'entraînement distribué à faible rang. En remplaçant la normalisation de colonnes par une orthogonalisation QR, la méthode élimine un facteur √r dans la convergence et atteint le taux O(√L_r/T) des méthodes spectrales exactes. Validation sur pré-entraînement de modèles de langage.
Nouvelle méthode d'ajustement hors ligne pour LLM : Goal-Conditioned Supervised Learning (GCSL). Traite les signaux de feedback comme des objectifs explicites et entraîne le modèle par apprentissage supervisé pur, sans modèles de récompense externes. Évalué sur génération non-toxique, code et recommandation.
Étude arXiv examinant si les LLM reproduisent les effets socio-cognitifs du pouvoir observés chez les humains. Dialogues asymétriques simulés (directeur-enseignant, juge-avocat) mesurent coordination linguistique, usage des pronoms, persuasion et conformité aux demandes dangereuses. Les LLM exhibent ces effets avec variabilité.
Modèle de codage ICD entraîné sur plusieurs versions (ICD-9 + ICD-10) pour prédire les codes médicaux. Multi-version training améliore de 27% la micro F1 sur 18K codes rares ICD-10 et les métriques macro sur 8K codes fréquents, avec moins de paramètres.
Nouvelle approche d'interprétabilité mécanique pour les politiques Vision-Langue-Action (VLA) robotiques. Les auteurs proposent des autoencodeurs creux (SAE) ancrés à des événements comportementaux plutôt qu'à des contextes textuels. Évaluation sur OpenVLA et π₀.₅ en simulation et robot réel, avec code disponible.
Nouvel article arXiv présentant OAG (Online Algorithms with Unreliable Guidance), un modèle pour l'apprentissage augmenté en ligne qui sépare composantes prédictives et algorithmiques. Introduit le compilateur DTB (drop-or-trust-blindly) convertissant algorithmes online standards en versions augmentées. Démontre garanties optimales sur matching bipartite, caching et tâches métriques uniformes.
PAREDA est un dataset de parole multi-accent (australien, indien, chinois) contenant des discussions spontanées sur des articles NLP. Les modèles ASR actuels montrent une dégradation de performance en zéro-shot, mais le fine-tuning réduit significativement le WER, validant la richesse du corpus en jargon technique et phénomènes conversationnels.
Revue unifiée sur la classification de séries temporelles de signaux biologiques (EEG, EMG, ECG, PPG, oculomoteurs). Le cadre morphologie-modalité montre que la structure des ondes (pics, rafales, oscillations, dérives) détermine plus fortement les performances que l'architecture du modèle. Les biais inductifs alignés avec la dynamique physiologique améliorent interprétabilité et généralisation.
Nouvelle méthode LGPT (Learnable Graph Pooling Token) pour intégrer des graphes dans les LLM. Utilise des tokens apprenables pour représenter les graphes sans perte d'information. Amélioration de 4,13% sur GraphQA sans fine-tuning du LLM.
Étude de la compression de prompts sur LLaDA, un DLLM de 8B paramètres, avec LLMLingua-2. Évaluation sur GSM8K, DUC2004, ShareGPT à ratio 2× montre que la préservation sémantique ne garantit pas la stabilité en modèles diffusion : le raisonnement mathématique se dégrade fortement tandis que la résumé reste robuste. Les méthodes autorégressives ne transfèrent pas uniformément aux DLLMs.
Étude sur les attaques adversariales universelles en NLP. Les auteurs proposent une méthode combinant filtrage morphosyntaxique et perte basée sur la perplexité pour générer des triggers naturels. Sur SST (sentiment analysis), les triggers atteignent 0.04-0.12 d'accuracy. L'entraînement adversarial améliore la robustesse de 0.12 à 0.48.
AdaGraph est un algorithme de clustering graph-native qui élimine la malédiction de la dimensionnalité en opérant sur la topologie kNN plutôt que sur des métriques euclidiennes. Sans spécifier k a priori, il identifie des modules de gènes en génomique (GSE14520, 10k gènes), atteint ARI=0.751 en clustering texte (20NG-6cat vs HDBSCAN 0.464), et surpasse Silhouette/Davies-Bouldin sur 10 benchmarks jusqu'à d=5000.
Flow-Direct propose un cadre de guidage sans entraînement pour modèles de flux utilisant un champ de guidage non-paramétrique persistant. Dérivé analytiquement du ratio log-densité entre distributions de base et pondérées par récompense, ce champ accumule tous les échantillons évalués pour améliorer l'efficacité feedback et permettre la réutilisabilité sans nouvelles évaluations de récompense.
Étude d'attaques adversariales par suppression d'actions en apprentissage par renforcement auto-jeu. Un attaquant retire sélectivement des actions légales de l'ensemble disponible pour la victime. Sur des jeux de poker (6 à 5 531 états) et deux domaines non-poker, le masquage appris cause plus de dégâts que le masquage aléatoire. L'attaque persiste sur Q-learning, PPO, NFSP, DQN et ne montre pas de récupération.
RISE, un framework de reclassement sémantique au moment de l'inférence, améliore les prédictions sur les exemples difficiles en labellisation de rôles rhétoriques. Sans retraining, il gagne +9.15 points macro-F1 sur 8 datasets spécialisés en utilisant des représentations de labels apprises contrastivement.