2731 articles
LinTree améliore le raisonnement des LLM en représentant explicitement la structure arborescente des traces de recherche. Les chercheurs montrent que l'accès brut à l'historique de recherche ne suffit pas à surpasser la recherche heuristique guidée par LLM. Ajouter des pointeurs parents pour expliciter la structure arborescente améliore les performances sur Blocks World, Navigation et Sokoban.
Étude des signatures stylistiques introduites par l'alignement des LLM. Les chercheurs montrent que le post-training crée un style détectable par les détecteurs IA. Ils proposent PASTA, une méthode sans entraînement qui localise et supprime cette signature lors du décodage, réduisant les taux de détection sur 11 modèles alignés.
Étude sur les effets long terme de la sélection de données lors du fine-tuning d'LLM sur plusieurs étapes. Les auteurs montrent que les stratégies optimales à court terme (loss-based, gradient-based, diversity-based) peuvent ralentir l'apprentissage futur et augmenter l'oubli catastrophique. Ils proposent LHAS (Long-Horizon Aware Selection) pour évaluer la sélection comme intervention d'entraînement globale.
SubsurfaceGen est un générateur GPU pour modèles de vélocité 3D et données sismiques à l'échelle du terrain. Les auteurs publient un dataset de 4 276 tranches 2D, couvrant 6 contextes géologiques (10 km × 10 km × 6,19 km à 10 m de résolution). Évaluation d'opérateurs neuronaux sur prédiction de champs d'ondes et inversion de vélocité end-to-end.
Nouvelle approche combinant Answer-Set Programming (ASP) et Reinforcement Learning pour créer des abstractions logiques d'espaces d'états. Les auteurs réimplémentent le framework CARCASS (originellement en Prolog) avec ASP, un langage déclaratif, et l'évaluent sur Blocks World et Minigrid. ASP offre une modélisation plus riche pour les représentations logiques de processus de décision markoviens.
Article théorique positionnant les modèles de diffusion comme cas particulier d'une famille de techniques d'apprentissage par destruction d'information. L'auteur argue que l'approche destructive offre plus de flexibilité que les techniques classiques, particulièrement en contexte de données limitées. Soulève des enjeux d'exploration et propose des directions de recherche natives aux modèles de diffusion.
Des réseaux de neurones non entraînés correspondent mieux au cortex visuel précoce que des réseaux entraînés. Une étude sur 720 images (THINGS) et données fMRI de 3 sujets montre qu'une époque de training réduit l'alignement V1 de 25-90% selon la règle d'apprentissage. La rétropropagation dégrade le plus (Δr = -0.080), tandis que le codage prédictif et STDP préservent mieux l'alignement (Δr ~ -0.04).
Méthode de sampling zeroth-order avec réduction de variance pour distributions non-log-concave en boîte noire. Propose ZO-APMC pour problèmes inverses avec priors génératifs. Premières garanties de convergence non-asymptotique établies.
HypoAgent est un framework multi-agent pour générer des hypothèses abductives interactives sur des graphes de connaissances. Trois agents coordonnés (reconnaissance d'intention, génération d'hypothèses, analyse de cause racine) permettent le dialogue multi-tour et le diagnostic fin des hypothèses échouées. SOTA sur graphes commonsense et biomédicaux.
SCALE est un framework d'auto-amélioration pour agents web basé sur MLLMs. Il utilise trois rôles adversariaux (Selector, Predictor, Judger) pour explorer autonomement les limites de l'agent et élargir ses capacités cognitives. SCALE-Hop optimise la planification globale. Un dataset SCALE-20k de 19 sites réels avec 20k démonstrations structurées valide l'approche sur plusieurs MLLMs.
Méthode pour assigner des scores de prédictibilité cohérents à des trajectoires courtes sur un continuum déterministe-stochastique. GON (Gauge-Fixed Ordinal Network), réseau convolutif temporel, résout l'ambiguïté cross-système via une objective anchor-and-variance. Transfert validé sur 5 systèmes dynamiques avec meilleure performance que l'entraînement from-scratch.
AMNESIA est le premier benchmark open-source à grande échelle pour l'oubli sélectif dans les LLMs médicaux. Il contient 70 560 paires question-réponse issues de 8 820 dossiers patients couvrant 11 catégories de maladies. Les auteurs évaluent 4 méthodes d'unlearning et révèlent que l'oubli de patients individuels érode la connaissance d'autres patients atteints de la même condition.
Nouvel mécanisme de sketching différentiellement privé basé sur des transformées rapides (Hadamard). Combine compression matricielle et garanties de confidentialité pour la régression linéaire DP. Première méthode rapide pour les moindres carrés ordinaires DP avec garanties d'utilité et de runtime améliorées.
Protocole d'évaluation de ChatGPT pour générer et vérifier des associations biomédicales centrées sur les maladies. Utilise RAG avec LLMs open-source pour validation sémantique et détection d'hallucinations via vote majoritaire cross-modèle.
Étude sur les équipes d'LLM jouant à ChGK (quiz de raisonnement collectif). Trois stratégies testées : Vote, Silent Team (capitaine observe réponses), Talkative Team (capitaine observe réponses + justifications). Sur 572 questions 2025, les équipes surpassent les modèles seuls (+20 points). Meilleure équipe : 44,23% accuracy, approchant la performance humaine. La communication des justifications réduit les erreurs.
Étude de biais dans les modèles de reconnaissance vocale multimodaux (audio-visuel). Les chercheurs créent des vidéos appairant différents visages au même audio et mesurent les variations de précision de transcription. Résultats : écarts de qualité jusqu'à 4,05 points d'erreur selon le genre, l'ethnicité et leur intersection sur Whisper-Flamingo et Gemini.
CanLegalRAGBench est un benchmark d'évaluation pour systèmes RAG appliqués au droit canadien, basé sur des requêtes réalistes et des réponses annotées par des experts. L'étude révèle que les modèles d'embedding open-source rivalisent avec les modèles fermés, mais identifie des hallucinations dans 8-29% des réponses générées, non supportées par les documents récupérés.
Étude arXiv sur la sécurité des LLM face aux entrées non fiables. Les chercheurs testent l'hypothèse que wrapper du contenu non fiable dans des appels d'outils simulés améliore la robustesse. Résultat : sur 7 modèles et 3 tâches de jugement, cette approche échoue et augmente souvent les taux de succès des attaques, inversant la hiérarchie d'instructions attendue.
Étude sur la redondance du cache KV des prompts lors du décodage. Les chercheurs montrent que les couches supérieures du cache prompt peuvent être remplacées par un scaffold de template de chat sans perte d'accuracy significative, révélant que la redondance est structurelle plutôt que sémantique. Résultats validés sur Qwen3, Gemma 3 et Llama 3.
Article proposant une architecture alternative aux réseaux de neurones profonds pour les LLM, basée sur les réseaux RBF. Le modèle trouve l'optimum global de la fonction de perte en forme fermée en une itération, éliminant l'entraînement itératif traditionnel. Comparaison avec méthodes similaires et étude de cas présentées.
DSFM (Dual-Spectral Flow Matching) génère des séries temporelles fMRI synthétiques en combinant transformée en ondelettes discrète (DWT) et transformée en cosinus discret (DCT) avec flow matching spectral. Le modèle capture la non-stationnarité et la dynamique spatiotemporelle des signaux BOLD pour améliorer la classification de réseaux cérébraux.
Unicorn, un framework de préentraînement multi-dataset, résout le compromis entre modèles indépendants par canal (scalables mais ignorant les dépendances) et modèles dépendants (expressifs mais limités en dimensions). Via un codebook de prototypes latents, il projette des canaux hétérogènes dans un espace partagé pour apprendre des patterns de corrélation réutilisables et transférables.
Un utilisateur propose d'utiliser HTML comme langage de sortie principal pour les agents LLM, permettant de générer du contenu interactif et animé directement dans le chat via des iframes. L'approche est testée avec Qwen 3.6-27B sur dual 3090.
npm-scan est un outil de sécurité de la chaîne d'approvisionnement pour l'écosystème npm. Il détecte les vulnérabilités et les dépendances malveillantes dans les packages JavaScript.
Un chercheur a construit Mamba-Titan-1.4B-Reasoning (2.54B params MoE) sur RTX 3060 en gelant un backbone Mamba-1 1.4B et en ajoutant 8 experts entraînables. Entraîné sur traces CoT DeepSeek, le modèle a développé un mécanisme de « vault door » : le token </think> s'isole à la plus petite norme (1.991 vs 4.742 moyenne) pour contrôler la terminaison du raisonnement latent.
Développeur crée un serveur MCP pour explorer l'ensemble de Mandelbrot via LLM. Outils : rendu d'images, présets de régions intéressantes, inspection des paramètres, palettes de couleurs, générateur de galerie HTML. Testé avec Qwen 3.6-35B. Repo GitHub : openmandel.
Un rapport expose les coûts en droits humains des systèmes d'IA générative, notamment l'exploitation de travailleurs pour l'annotation de données, les violations de propriété intellectuelle et les impacts environnementaux. L'étude documente les pratiques contraires à l'éthique dans la chaîne de production des modèles.
MiniMax M3 annoncé avec 1M tokens de contexte, capacités de coding et agentic avancées, support multimodal. Positionnement sur la frontière des modèles open-source haute performance.
Minimax M3 commence à être déployé sur l'API. Le modèle a été repéré il y a environ 15 minutes sur une capture d'écran.
Un utilisateur de r/LocalLLaMA recommande d'investir dans des GPUs plutôt que d'utiliser des hacks pour contourner le manque de VRAM. Il rapporte faire tourner Qwen 3.6-27B en Q8 avec cache K/V f16 sur 2×RTX 3090 d'occasion, atteignant 128k tokens de contexte (1399 pp, 104 tg).
Vercel Blob supporte désormais l'authentification OIDC par défaut pour les nouveaux projets. Les tokens OIDC émis par Vercel sont de courte durée et rotatifs, éliminant le besoin de tokens longs durée. Les fonctions Vercel et la CLI reçoivent automatiquement le token.