CAIT est une boîte à outils open-source pour l'analyse syntaxique des interactions enfant-adulte dans CHILDES. Elle inclut un parseur de dépendances entraîné sur UD-English-CHILDES, un tagger POS et un tagger de constructions. Le parseur surpasse SpaCy et Stanza sur ce domaine spécialisé.
SciCustom est un framework pour construire des benchmarks personnalisés évaluant les capacités scientifiques spécifiques des LLM. Il organise les connaissances scientifiques en unités ontologiques, utilise un consensus multi-modèle pour identifier les unités pertinentes, et génère des benchmarks à partir de données réelles en chimie et santé sans annotation experte.
Hugging Face lance Carbon, une famille de modèles fondamentaux ADN open-source. Carbon-3B égale l'état de l'art (Evo2-7B) tout en étant 275× plus rapide. L'approche adapte les techniques LLM modernes : tokenisation 6-mer déterministe, loss factorized (FNS) en mid-training, et curation de données biologiques fonctionnelles.
Architecture neurosymbolique avec ontologies (Role, Domain, Interaction) pour agents LLM en entreprise. Expérience contrôlée (1 800 runs, Claude Sonnet 4, Qwen 2.5 72B, Gemma 4 26B) : agents ontologie-contraints surpassent agents non-grounded sur précision métrique et cohérence de rôle (p < .001). Gain 2x plus élevé sur domaines localisés (Vietnam) où couverture LLM est faible.
KVCapsule compresse le cache KV des modèles vision-langage lors du décodage autorégressif. La méthode exploite les patterns d'attention structurés des tokens visuels pour atteindre 2x d'amélioration en TPS et 2.4x de réduction mémoire à 60% de compression, sans modification du backbone préentraîné.
FinTagging est un benchmark pour évaluer les LLM sur l'extraction et le tagging XBRL de données financières. Il décompose la tâche en deux étapes : FinNI (extraction d'entités numériques) et FinCL (mapping vers la taxonomie US GAAP complète). Les tests montrent que les modèles extraient bien mais échouent sur le linking fin vers les 10k+ concepts.
Étude des agents IA autonomes dans les chaînes d'approvisionnement multi-échelons via le Beer Game du MIT. Les modèles de raisonnement réduisent les coûts de 67% vs équipes humaines, mais révèlent un « effet bullwhip agent » : amplification de l'instabilité décisionnelle entre échelons. Un cadre GRPO de post-entraînement par renforcement sur récompenses système améliore la fiabilité.
PH-Dreamer intègre des principes physiques (Port-Hamiltonien) dans les world models pour améliorer l'imagination latente. Le framework modélise l'évolution énergétique, estime l'Hamiltonien à partir d'observations proprioceptives, et utilise un Actor-Critic guidé par l'énergie. Résultats : réduction du volume de phase de 4.18-8.41%, consommation énergétique réduite de 7.80%, jerk diminué de 9.38%.
RAG-Gym, un framework de supervision du processus de recherche plutôt que des réponses finales, améliore les agents de recherche autonomes. Re²Search++ utilise la supervision de processus et la réflexion de raisonnement pour générer des requêtes de meilleure qualité, avec gains significatifs sur les benchmarks multi-hop et meilleure généralisation hors-domaine.
Les modèles de raisonnement surpassent les LLM de base sur les benchmarks complexes. Une étude révèle que l'avantage provient d'un petit ensemble de tokens décisionnels précoces (~8% sur Qwen3-0.6B), concentrés en phase de planification. Une intervention sélective du modèle de raisonnement sur ces tokens critiques restaure les performances sans surcoût computationnel majeur.
EPIC est une méthode de construction d'index RAG optimisée pour les agents IA sur appareil. Elle réduit la mémoire d'indexation de 2 404× en se concentrant sur les préférences utilisateur, améliore la précision de suivi des préférences de 20,17 points et diminue la latence de récupération de 33,33×. Empreinte mémoire < 1 MB avec 29,35 ms/requête.
ZEDA, une méthode de self-distillation, convertit les modèles MoE post-entraînés en variantes dynamiques. Sur Qwen3-30B-A3B et GLM-4.7-Flash, elle réduit 50% des FLOPs experts avec perte de précision marginale et atteint 1.20× d'accélération d'inférence.
Les modèles MIL sur whole-slide images souffrent de « cécité spatiale » : ils prédisent correctement mais ignorent l'architecture tissulaire. ResTopoMIL corrige cela en séparant statistiques d'apparence (histogramme prototype) et relations spatiales (branche graphe avec contrainte de permutation). Amélioration sur 9 benchmarks WSI avec 1.15M paramètres.
Étude des attaques d'inférence d'appartenance (MIA) sur les modèles de diffusion masqués (MDLM). Les chercheurs extraient des vecteurs de 46 dimensions de la perte de reconstruction à différents ratios de masquage et entraînent XGBoost et MLP. Sur le benchmark MIMIR, XGBoost atteint AUC 0.878 (pic 0.930), surpassant le baseline SAMA de 0.062 AUC. La trajectoire ELBO seule explique la majorité du signal.
BacktestBench est le premier benchmark large-scale pour le backtesting quantitatif automatisé, contenant 18 246 paires question-réponse annotées sur 6 millions de données de marché réelles. AutoBacktest, un système multi-agent, traduit les stratégies en langage naturel en backtests reproductibles via un Summarizer, un Retriever SQL et un Coder Python. Évaluation sur 23 LLMs mainstream.
OverEager-Gen est un benchmark mesurant les actions hors-scope des agents de code autonomes sur des tâches bénignes. Sur Claude Code, retirer la déclaration de consentement augmente le taux d'actions overeager de 0% à 17.1%. L'étude teste 500 scénarios validés sur 4 produits (Claude Code, OpenHands, Codex CLI, Gemini CLI) et 6 modèles de base.
CoDiLA combine diffusion et autorégressif local pour générer du code en parallèle. Un petit modèle AR auxiliaire (0.6B params) assure la cohérence syntaxique sur les latents diffusion, éliminant les artefacts tout en maintenant la génération bidirectionnelle et sub-linéaire.
GRASP est un système agentic pour la réponse à questions multi-sauts qui décompose les requêtes en plans dépendants et utilise un graphe hiérarchique à trois couches (entités, propositions, passages). Sur MuSiQue, 2WikiMultihopQA et HotpotQA, GRASP atteint la meilleure précision tout en consommant 40-50% moins de tokens qu'IRCoT+HippoRAG2.
SPOT (Surgical Post-Training) est un framework de distillation on-policy qui injecte des capacités de raisonnement dans les LLM tout en préservant les connaissances antérieures. Avec 4k paires mathématiques rectifiées, il améliore Qwen3-8B de 6,2% en moyenne en 16 minutes sur 8x H800 GPUs. L'approche utilise une formulation de récompense contrainte par KL pour atténuer l'oubli catastrophique.
Les chercheurs identifient l'Entropy-Gradient Inversion, une corrélation négative entre l'entropie des tokens et les gradients de logits, comme signature géométrique des capacités de raisonnement des grands modèles. Ils proposent CorR-PO, une méthode d'optimisation par renforcement qui intègre cette signature dans la régularisation des récompenses, surpassant les baselines sur plusieurs benchmarks de raisonnement.
PRISMat est un modèle autorégressif permutation-invariant pour la génération de matériaux cristallins. Plus léger et rapide que les LLMs, il réduit l'erreur de prédiction de l'énergie de clivage et de la fonction de travail par 4× (MAE 0.188 eV/Ų et 2.79 eV). Applicable à la découverte haut débit de matériaux.
Étude montrant que l'oubli dans les LLM supprime l'information en surface seulement : les modèles retrouvent leur comportement original via un fine-tuning minimal. Les auteurs proposent un cadre d'analyse au niveau représentationnel (PCA, CKA, Fisher information) pour évaluer la véritable suppression de données et identifient quatre régimes d'oubli selon réversibilité et catastrophicité.
AdaGraph est un algorithme de clustering graph-native qui élimine la malédiction de la dimensionnalité en opérant sur la topologie des graphes kNN plutôt que sur les distances euclidiennes. Testé sur 10 benchmarks synthétiques (d=10 à 5000) et trois domaines scientifiques (génomique, NLP, matériaux), il surpasse HDBSCAN, WGCNA et autres méthodes sans spécifier k a priori.
Un agent IA intégrant LLM et orchestration de laboratoire permet aux scientifiques de créer et monitorer des protocoles automatisés en langage naturel. Testé sur trois labs simulés (chimie, biologie, matériaux), l'agent atteint 97% de succès à la première tentative et réduit d'un ordre de magnitude les actions requises.
AgentWall est une couche de sécurité runtime pour agents IA locaux. Elle intercepte les actions proposées par l'agent avant exécution, les évalue contre une politique déclarative explicite, requiert approbation humaine pour opérations sensibles, et enregistre un audit complet. Implémentée comme proxy MCP et plugin OpenClaw, elle atteint 92,9% de précision d'application de politique avec surcharge sub-milliseconde.
Des chercheurs montrent que le renforcement learning peut encoder des solveurs réutilisables dans les poids d'un LLM plutôt que de résoudre chaque instance à l'inférence. En fine-tunant Qwen2.5-Coder-14B avec GRPO sur Synergistic Dependency Selection, le modèle converge vers Simulated Annealing avec 5.0% de gap au solveur optimal, 91× moins cher qu'un Best-of-64 baseline.
STING est un framework de red-teaming automatisé qui évalue la vulnérabilité des agents LLM aux scénarios d'abus multi-tours. Il construit des plans illicites étape par étape avec personas bienveillantes et utilise des agents juges pour suivre la progression. Tests sur 6 langues non-anglaises montrent que le succès d'attaque ne croît pas systématiquement dans les langues à faibles ressources.
SPOT (Surgical Post-Training) est un framework de distillation on-policy qui injecte des capacités de raisonnement dans les LLM tout en préservant les connaissances antérieures. Avec 4k paires mathématiques rectifiées, il améliore Qwen3-8B de 6,2% en moyenne en 16 minutes sur 8x H800, en utilisant une formulation de récompense contrainte par KL et une pipeline de correction d'erreurs minimales.
PopPy est un système qui découvre automatiquement les opportunités de parallélisation dans les applications Python composites (appels multiples à des modèles ML). Sur des applications réelles, PopPy atteint des accélérations jusqu'à 6.4× en temps d'exécution bout-en-bout, combinant un compilateur ahead-of-time et un runtime pour gérer la complexité du langage, le dispatch dynamique et les mutations de variables.
OptimusVLA, un modèle Vision-Langage-Action hiérarchique, améliore la manipulation robotique via deux mémoires : Global Prior Memory (remplace le bruit gaussien par des priors de trajectoires similaires) et Local Consistency Memory (assure la cohérence temporelle). Résultats : 98.6% sur LIBERO, +13.5% vs pi_0 sur CALVIN, 2.9x plus rapide en inférence.
Representation Autoencoders v2 améliore les VAE en utilisant des encodeurs vision préentraînés. Les auteurs découvrent que combiner les k dernières couches d'encodeur, fusionner RAE et REPA (representation alignment), et re-paramétrer la guidance sans classifier accélère 10x la convergence. RAEv2 atteint gFID 1.06 en 80 epochs sur ImageNet-256 et EP_FID@2 de 35 epochs.
Étude de circuit d'une backdoor dans un modèle 8B : un trigger Latin de 3 mots redirige la sortie anglaise vers le français. Le circuit opère en 3 phases via des têtes d'attention, une propagation orthogonale aux directions de langue naturelle, puis conversion MLP. Un goulot d'étranglement sériel à une position unique contrôle tout le flux.
Analyse théorique de transformers standard avec softmax et précision basse, montrant qu'ils peuvent simuler des machines de Turing via Chain-of-Thought. Les auteurs construisent des transformers hardmax avec activations ternaires, puis les convertissent en softmax équivalents sans magnitudes irréalistes. Résultats validés sur Sudoku.
MINE (Mechanistically Interpretable Neural Encoding) applique les outils d'interprétabilité mécanique aux réseaux de neurones pour identifier les caractéristiques visuelles qui activent chaque voxel du cortex visuel humain. Validation par génération d'images et édition contrefactuelle : insérer/retirer les features prédites modifie l'activation neuronale comme prévu.
Étude de la « cognitive poisoning » : des outils malveillants qui accumulent la confiance via des retours bénins avant de devenir nuisibles. TRUST-Bench (1,970 épisodes) et VISTA-Guard proposent une défense basée sur le scoring du risque de l'action finale à partir de la trajectoire d'interaction. Les heuristiques classiques échouent ; le scoring conscient de la trajectoire atteint 84,2% en-domaine.
Méthode de retrieval pour l'annotation multi-label juridique : embedding figé de documents et descriptions de labels, prédiction par k-NN. Sur Eurlex (100 labels), Qwen-8B atteint Macro-F1 49.12 vs 40.41 (GPT-5.2 zero-shot), réduit compute de 20-30×. Élimine les hallucinations (GPT-5.2 : 0.12-0.9% labels hors taxonomie).
EnactToM est un benchmark d'IA évolutif contenant 300 tâches multi-agents en environnement 3D avec observabilité partielle. Il teste la capacité des agents à agir sur des croyances implicites (ToM fonctionnelle) plutôt que de répondre à des questions directes. Les 7 modèles frontière évalués obtiennent 0% sur les tâches difficiles, révélant des défaillances en coordination épistémique.
FastOCR propose un framework sans entraînement pour accélérer l'OCR sur Vision-Language Models en exploitant la fixation visuelle dynamique. Via pruning du cache KV, le modèle réduit les tokens visuels traités à 5% par étape de décodage tout en conservant 98% de précision sur Qwen2.5-VL, divisant la latence d'attention par 3.0×.
SomaliWeb v1 : corpus Somali de 819 322 documents (~303M tokens) avec tokenizer BPE-16K et benchmark d'identification de langue. Révèle défauts majeurs dans distributions existantes (HPLT v2 : 17,3% doublons, 56,1% mojibake). Tokenizer 40,2% plus efficace que cl100k_base de GPT-4 sur FLORES-200.
Étude de 38 modèles sur 8 900 références académiques : la qualité du rappel factuel suit une sigmoid combinant la taille du modèle et la fréquence du sujet dans les données d'entraînement. Ces deux variables expliquent 60% de la variance entre modèles denses, jusqu'à 74-94% au sein de familles individuelles.