Étude théorique et empirique des mécanismes de l'édition séquentielle de connaissances dans les LLM. Les auteurs démontrent l'équivalence formelle entre édition unique et séquentielle, montrant que la stabilité émerge naturellement sans régularisations complexes. Code disponible.
Étude sur l'adaptation des agents RL en environnements non-stationnaires graduels. Les auteurs modifient des environnements 3D Miniworld et MuJoCo pour introduire une dérive continue, et montrent que la consolidation synaptique appliquée aux Successor Features (SFs) multi-échelles surpasse les approches basées sur les Q-values. La stabilité prime sur la plasticité dans l'apprentissage continu.
CoAD, un nouveau framework pour la détection d'anomalies en séries temporelles, combine classification (Outlier Exposure) et reconstruction (Masked Autoencoder). Le module de classification génère des masques souples pour guider la reconstruction, résolvant les problèmes de généralisation et d'alignement des masques. Expériences sur benchmarks standards montrent des gains significatifs avec une inférence plus rapide.
Tail-Aware HiFloat4 applique la quantification post-entraînement W4A4 au modèle Wan2.2 de génération vidéo texte. La méthode adapte ViDiT-Q en utilisant le format HiFloat4, quantifie les couches linéaires du transformer, préserve les modules sensibles en haute précision, et introduit un calibrage percentile conscient des queues d'activation pour réduire l'impact des valeurs aberrantes.
Méthode online pour modéliser des séries temporelles en streaming comme mélanges dynamiques de systèmes à délais variables. Utilise une représentation tensorielle compacte des paramètres de Markov pour capturer dynamiques et délais, avec décomposition tensorielle pour adapter rapidement le modèle aux changements de régime. DelayMix surpasse les baselines sur données réelles non-stationnaires.
SilIF améliore l'Isolation Forest pour la détection de fraude en ajoutant un score de silhouette basé sur les chemins d'arbres. Sur le benchmark IEEE-CIS (~590K transactions, 3.5% fraude), SilIF gagne +0.0080 AUC-PR en moyenne (p=0.046). La méthode ne progresse pas sur Sparkov, révélant des conditions d'applicabilité spécifiques.
AGORA propose une méthode de compression de prompts sans inférence pour agents LLM, basée sur des adaptateurs et la rétention d'observations-actions. Les compresseurs extractifs token-level standards échouent sur les agents (75% de performance en 8/9 cas). L'ablation révèle que la structure et le scorer adaptatif permettent 1.0-11.5x de compression.
Étude arXiv sur la détection du capacitisme anti-autiste dans les LLM. Les chercheurs proposent un cadre d'évaluation pondéré psychométriquement, ancré dans la positionality des annotateurs. Les modèles produisent des résultats nuisibles, mislabellisent le langage réapproprié par la communauté et dépendent du matching de mots-clés plutôt que du contexte (identité du locuteur, solidarité in-group).
LATTE est un framework de personnalisation pour LLM gelés qui prédit les trajectoires de préférence des utilisateurs en soustrayant des profils de pairs comparables. Une séquence légère prédit l'état suivant, injecté via un token soft unique. Sur Amazon Reviews 2023, LATTE atteint ROUGE-L=0.259 vs 0.219 pour les profils statiques.
Étude sur l'alignement culturel des LLM via activation steering. Les chercheurs contournent les refus de sécurité en utilisant 300 dilemmes situationnels pour extraire les valeurs culturelles latentes, puis appliquent du steering d'activation sans réentraînement. Découverte clé : les valeurs culturelles sont encodées comme structures couplées, limitant l'alignement précis.
Pipeline hybride neural-symbolique pour extraire les instructions de suivi clinique (action, date) des dossiers ambulatoires. BioBERT + tagging BIO + linker biaffine + normalisation déterministe des dates surpasse GPT-4o-mini et LLaMA-3 fine-tuné : F1 pair 0.997 (données vues) vs 0.51-0.57 pour les baselines.
Étude arXiv sur le désapprentissage sélectif dans les LLM. Les auteurs proposent deux méthodes distinctes : une variante cosinus de RMU pour oublier les connaissances dangereuses, et un objectif multi-couches pour réduire la toxicité. Testées sur 4 modèles 7-8B open-source, les approches montrent que le désapprentissage nécessite des objectifs spécifiques selon la fonction linguistique ciblée.
slidesqaqa est un système Flask qui génère des questions pédagogiques à partir de présentations PDF. Un pipeline LLM à 4 étapes (planification, synthèse, annotation, réconciliation) traite texte et images pour produire des questions cohérentes et non-redondantes, avec scores d'évaluation en JSON structuré.
MPMMine est une suite de benchmarks pour évaluer les algorithmes de Constraint Acquisition (CA) qui découvrent, valident et améliorent les modèles de programmation mathématique. Elle standardise les artefacts de connaissance de domaine en formats ouverts (MiniZinc, CommonMark, JSON) et fournit milliers de solutions/non-solutions pour améliorer la reproductibilité et comparabilité des études.
CARL, un algorithme d'apprentissage hiérarchique par renforcement hors ligne, exploite la régularité des dynamiques locales pour découvrir des compétences réutilisables. En alignant les contextes globaux avec les séquences d'actions requises, la méthode améliore les performances sur OGBench intégrée à HIQL.
Étude sur 20 000 histoires générées par 4 LLM : 11 mots (Elias, Mara, Elara, lighthouse, clockmaker, librarian) apparaissent dans 88,3% des récits. Ces tokens proviennent de données de préférence utilisées lors de l'alignement, pas des données d'entraînement. Révèle l'impact disproportionné de petits datasets combinés à des algorithmes d'alignement puissants.
CroCo étend le tuning de préférence contrastif sur auto-générations à 14 langues (hautes et basses ressources). Un modèle de récompense entraîné sur préférences anglaises génère des classements utiles multilingues sans annotation spécifique par langue. Gains confirmés sur EuroLLM-9B et Aya-3B avec données on-policy.
ReDose est un dataset de 6 435 posts Reddit annotés par des toxicologues pour extraire les entités DRUG, DOSE et EFFECT. BiomedBERT atteint F1=0.843 pour DRUG ; Llama-3 70B surpasse GPT-4 (F1=0.79 vs 0.72). L'extraction d'EFFECT reste difficile (recall GPT-4=0.41).
The Daily Dose (TDD) est un système LLM intégré en routine en oncologie radiothérapique pour résumer automatiquement les dossiers patients et identifier les essais cliniques pertinents. Évaluation sur 55 cliniciens : 83,6% utilisent TDD quotidiennement, satisfaction moyenne 3,89/5, 27% rapportent ≥10 min économisées/jour.
Système de détection de drones par signaux sonores utilisant des réseaux de neurones avec ondelettes gaussiennes rationnelles. La méthode combine extraction de features adaptatives et classification/détection de UAVs simples et essaims. Surpasse les approches ML traditionnelles tout en conservant l'interprétabilité. Code publié.
LieEDNN propose des réseaux de neurones dynamiques intégrant les groupes de Lie pour modéliser les symétries continues. L'approche résout l'incompatibilité entre l'arithmétique additive des réseaux et la géométrie non-euclidienne via des actions adjointes sur l'algèbre de Lie. Application testée sur SE(3) pour manipulateurs télescopiques.
Article théorique sur l'insuffisance des modèles de séquence face aux états latents non observés. Les auteurs formalisent un processus mixte où un prédicteur parfait peut devenir surconfiant si le contexte observé correspond au mauvais régime latent. Ils montrent que le « sufficiency gap » (écart de suffisance) ne peut être fermé que par révélation parfaite de l'état latent ou un mécanisme de vérification équivalent.
Étude comparative de trois approches LLM sur 1 000 problèmes mathématiques (GSM-Symbolic) : chain-of-thought (CoT), Program-Aided Language models (PAL) et Step-by-Step Coding (SBSC). CoT s'avère plus robuste face aux variations (drop 1,3pp vs 1,7pp pour PAL), contredisant l'hypothèse que l'exécution de code améliore la robustesse du raisonnement.
FAST-GOAL améliore CLIP pour traiter des descriptions textuelles longues via alignement sémantique global-local. La méthode combine extraction efficace de régions locales (FLISM) et apprentissage par similarité de tokens (TSL). Un dataset GLIT100k avec paires image-caption longues et dérivées locales valide l'approche sur DOCCI, DCI, MSCOCO, Flickr30k.
Étude arXiv sur l'évaluation des LLM juridiques. Les modèles existants sont sensibles à des variations légalement non pertinentes. LexGuard, un framework multi-agent adversarial, formalise les statuts en contraintes exécutables et utilise des solveurs SMT pour vérifier la cohérence logique et la satisfaction légale.
Étude sur l'utilisation d'outils externes par les agents médicaux IA face à des défaillances d'outils. Propose un cadre RL basé sur GRPO avec sélection au niveau instance plutôt que tâche, récompenses de minimisation de risque probabiliste et apprentissage de synergies conscientes du désaccord. Évaluation sur 7 benchmarks médicaux montre améliorations robustes.
Étude systématique du QAT en HiF8 W8A8 sur OpenPangu-Embedded-1B. Identifie deux modes de défaillance : saturation amax (corruption silencieuse via clipping) et oubli catastrophique (surapprentissage du taux d'apprentissage). Solutions : fenêtre d'historique 64-step pour DTS et warmup BF16 500-step. Résultat : 0.43% drop MMLU, 0.58% HellaSwag, 0.22% ARC-Challenge vs baseline.
HRVConformer est une architecture hybride Convolution-Transformer pour classifier l'encéphalopathie hypoxique-ischémique néonatale à partir de signaux de fréquence cardiaque bruts. Entraîné sur 1 573 epochs (259 annotés, reste faiblement labellisés), le modèle atteint 83,23% AUC et 74,56% accuracy sur un test de 215 heures, surpassant ResNet50 et Transformer seuls.
Framework d'apprentissage adaptatif utilisant des LLM ancrés dans des connaissances expertes pour fournir des retours pédagogiques juste-à-temps. Déployé dans un cours universitaire (N>1000), il améliore la performance étudiante de 80% en analysant les essais de raisonnement et en corrigeant les erreurs conceptuelles via conversations itératives.
Un cadre pour gérer l'incertitude dans les procédures générées par LLM pour la planification de laboratoires virtuels éducatifs. Le système utilise des représentations de domaine structurées et des échantillons de transition d'état incertains pour extraire des règles procédurales, les transformer en contraintes explicites et réparer les étapes défectueuses.
Étude des défaillances des méthodes de gradient de politique dans les problèmes de décision à long horizon avec dommages cumulatifs. Les auteurs identifient deux modes d'échec orthogonaux et proposent une décomposition séparant complétude (atteindre l'horizon terminal) et optimalité (correspondre à la programmation dynamique). Expériences sur carrière de maçon (49 étapes) et carrière NBA (20 saisons).
PushCen-ADFL est un framework d'apprentissage fédéré décentralisé asynchrone qui réduit la communication de 80% tout en améliorant la précision de 6% sous hétérogénéité des données. Il utilise une représentation centroïde partagée, un mélange push-sum et une régularisation légère pour corriger les biais d'agrégation et atténuer la dérive du modèle.
AIMS-Fold intègre des données de protéomique structurale (XL-MS, HDX-MS) dans un modèle de diffusion pour prédire les structures de complexes protéiques. Le framework surpasse Boltz-2 sur les cibles de proximité induite, critiques pour la conception d'anticorps et de PROTACs.
Article théorique et empirique sur l'entraînement d'agents dialogue LLM. Identifie la distribution shift comme limitation majeure du Static Context RL et Interactive RL. Propose Calibrated Interactive RL couplant RL interactif avec alignement du simulateur pour réduire l'écart sim-to-real et améliorer la qualité du dialogue multi-tour.
BrickAnything génère des structures de briques physiquement constructibles à partir de formes 3D via un framework autorégressif. La méthode utilise une tokenization arborescente consciente de la structure pour modéliser les dépendances entre briques, avec décodage contraint et alignement par préférence pour améliorer la stabilité et la fidélité géométrique.
Étude sur la détection automatique des hallucinations dans les LLM. Les chercheurs proposent FEPoID (First Effective Peak of Intrinsic Dimension), une méthode sans entraînement pour sélectionner les couches intermédiaires optimales. Testée sur QA et résumé, elle surpasse les baselines existantes avec overhead computationnel négligeable.
Nouvelle reparamétrisation des méthodes Shampoo (KL-Shampoo, SOAP, KL-SOAP) permettant le stockage en BFloat16 et réduisant le coût computationnel via décomposition QR en sous-espace. Améliore l'efficacité mémoire et temps sans dégradation de performance.
Reachy Mini, robot humanoïde de Pollen Robotics, fonctionne désormais entièrement en local sans connexion cloud. Intégration de modèles open-source (Llama, Whisper) pour la vision, la parole et le contrôle moteur. Déploiement sur hardware embarqué.
Vercel CLI propose un binaire natif expérimental optionnel, plus rapide et sécurisé, sans dépendance Node.js. Les binaires sont signés cryptographiquement et stockent les credentials dans le Keychain système (macOS). Disponible sur macOS, Linux, Windows en x64/arm64.
Daniel Stenberg, mainteneur de curl, rapporte une augmentation sans précédent des rapports de sécurité : 4-5× plus qu'en 2024, plus d'un par jour en moyenne. Les rapports sont détaillés et de haute qualité, générés par des outils IA. Malgré cette pression extrême, les vulnérabilités trouvées restent de sévérité basse à moyenne.