Nouvelle méthode de quantification 1-bit pour LLM exploitant les modèles pré-entraînés. Utilise un entraînement progressif cohérent (forward/backward) avec initialisation binary-aware et compensation dual-scaling pour convertir les poids en représentation binarisée. Réduit coûts d'entraînement et dégradation de précision comparé aux approches existantes.
ES-CoT détecte la convergence des réponses lors de la génération de chaînes de pensée (CoT) pour arrêter précocement l'inférence. La méthode réduit les tokens d'inférence de 16,08% en moyenne sur six benchmarks de raisonnement sans perte de précision significative.
EnoTab est un framework de débruitage dual pour le TableQA (question-answering sur tables). Il décompose les questions complexes en unités sémantiques minimales et élagage les tables volumineuses via un arbre de preuves explicite, avec mécanisme de rollback pour gérer les états anormaux. Résultats probants sur questions complexes et tables à grande échelle.
AMBS (Adaptive Multi-Branch Steering) aligne les LLM sur trois objectifs simultanés (Helpfulness, Harmlessness, Honesty) via un framework 1-to-N Transformer. Une représentation partagée est répliquée en N chemins objectif-spécifiques avec transformations contraintes. Résultats : 56.5% WR moyen sur LLaMA-2-7B, 189 Tok/s.
COCOCO, un framework post-hoc, intègre la Conformal Prediction aux modèles neuro-symboliques basés sur concepts (NeSy-CBMs) pour améliorer la fiabilité. Il conformalise concepts et labels conjointement via une étape de révision déduction-abduction, garantissant cohérence, couverture et concision sans hypothèse distributionnelle. Testé sur 8 datasets.
Étude théorique des algorithmes évolutionnaires multi-objectifs pour l'optimisation multi-parties (MPMOP). Sur le benchmark MP-JCG, une mutation guidée par les gains requiert Θ(n²) évaluations pour franchir une région critique, tandis que CPR-NSGA-II atteint O(n log n) via recombination cross-party. Analyse de runtime sur BPBOMST (problème d'arbre couvrant minimum multi-parties) avec bornes paramétrées.
TTE-Flash remplace les traces explicites de Chain-of-Thought par des tokens latents pour accélérer les représentations multimodales. Le modèle TTE-Flash-2B surpasse ses équivalents CoT explicites sur MMEB-v2 tout en réduisant le coût d'inférence. Les tokens latents restent interprétables textuellement et visuellement.
Étude arXiv évaluant la cohérence du codage de données de communication par ChatGPT selon les groupes démographiques (genre, race). Les auteurs adaptent un cadre d'évaluation automatisée et testent ChatGPT sur trois types de tâches collaboratives. Résultat : le codage ChatGPT montre une cohérence comparable aux annotateurs humains entre groupes.
QQJ est un framework d'évaluation pour l'IA générative qui combine rubrics multi-dimensionnels conçus par experts et calibrage d'LLM évaluateurs sur un petit ensemble d'annotations de haute qualité. Testé sur génération de texte et images, QQJ montre meilleure alignement avec le jugement humain que les métriques automatiques traditionnelles et les évaluateurs LLM non structurés.
Étude arXiv évaluant comment les modèles de langage et de raisonnement jugent les jeux de plateau. Sur 100+ jeux et 450 jugements humains, les modèles de raisonnement s'alignent mieux aux humains que les LLM classiques pour évaluer l'équité et le plaisir des jeux. Paradoxe : plus les modèles approchent l'optimalité théorique des jeux, moins ils correspondent aux préférences humaines.
Template Infilling (TI) est une méthode de conditioning pour les Diffusion Language Models qui aligne des ancres structurelles sur l'ensemble de l'espace de réponse, remplaçant le prefix prompting. Évaluée sur raisonnement mathématique, génération de code et planification, TI améliore les performances de 9,40% et accélère la génération multi-token.
PIPER est une méthode de recherche de tables basée sur le contenu utilisant des profils de tables et des pseudo-requêtes générées par LLM pour la récupération dense. Elle surpasse les approches basées sur les métadonnées et les méthodes TableQA existantes dans les contextes de métadonnées pauvres.
Peak-Detector utilise des LLMs instruction-tuned pour détecter les pics dans les signaux physiologiques (ECG, PPG, BCG, BSG) avec explainabilité. Une technique de « peak-representation » compresse les séries temporelles en préservant les événements critiques. Le modèle est optimisé via fine-tuning supervisé puis reinforcement learning multi-objectif, testé sur 7 datasets (6 publics + 1 cohorte réelle).
HyperPersona propose un framework hypergraphe multi-niveaux pour prédire la personnalité à partir de texte. Le modèle représente documents, phrases et mots comme hyperedges et nœuds, capturant dépendances globales, locales et lexicales. Évalué sur les Big Five, il surpasse les baselines existantes en intégrant la hiérarchie textuelle.
Nouvelle méthode IBAL pour renforcer la robustesse du MARL face aux perturbations d'interactions inter-agents. Le framework utilise une approche théorique de l'information pour construire des attaques qui dégradent la coordination en perturbant observations et actions, puis entraîne les agents à rester fiables. Amélioration démontrée sur baselines existants et scénarios d'agents manquants.
CardioThink, un framework MLLM inspiré par la pratique médicale, structure le diagnostic ECG en étapes explicites (rythme, conduction, morphologie, impression) pour améliorer l'interprétabilité. L'optimisation Structured Set Policy Optimization (SSPO) aligne le raisonnement clinique sans annotations manuelles, surpassant les approches directes sur plusieurs benchmarks ECG.
TAPE, une méthode de pruning sans entraînement pour la génération vidéo par diffusion, réduit la complexité computationnelle en supprimant intelligemment les tokens tout en préservant la cohérence temporelle. Elle applique un lissage temporel entre frames, réalectionne les tokens par couche et ajuste le budget selon les étapes de diffusion.
Framework RGB pour la génération active de graphes de scènes 3D (3DSG) utilisant des caméras externes fixes comme cartes de contexte préalable. Le système fusionne observations de caméras embarquées et externes dans un pipeline unique, guidant le robot vers les régions d'incertitude sémantique élevée. Une seule caméra externe augmente le rappel d'objets initial de +79%.
Modélisation de la difficulté d'items sans réponses pour questions à choix multiples via transformers fine-tunés. Approche end-to-end sur le texte des items éliminant l'ingénierie manuelle des features. Variante multi-tâche avec objectif auxiliaire QA améliore significativement les petits échantillons.
LISTEN est un framework agentic basé LLM pour sélectionner parmi plusieurs options avec objectifs conflictuels. Deux algorithmes itératifs : LISTEN-U affine une fonction d'utilité paramétrique, LISTEN-T utilise des tournois sur petits lots. Évalué sur réservations de vols, shopping, planification d'examens. Code disponible.
BiKD propose un framework bilevel pour équilibrer dynamiquement les pertes hard et soft en distillation de connaissance sur données déséquilibrées. Un réseau de génération de poids produit des pondérations adaptatives par échantillon, guidé par un ensemble de validation équilibré. Expériences sur CIFAR-10/100 long-tailed montrent des gains sur les méthodes récentes.
Méthode d'amélioration d'inférence vidéo utilisant un contrôleur flou (FC-r) pour adapter dynamiquement la taille des modèles selon les ressources disponibles. Exploite la corrélation spatio-temporelle entre frames adjacentes. Équilibre performance et efficacité énergétique sans augmenter la complexité architecturale.
GraphMind combine GNN et LLM pour le raisonnement multi-étapes en mathématiques. Le framework modélise le processus de raisonnement comme un graphe hétérogène évolutif où nœuds (conditions, théorèmes, conclusions) et arêtes (dépendances logiques) permettent la sélection dynamique de théorèmes et la génération itérative de conclusions. Résultats améliorés sur benchmarks QA.
VolTA-3D est un framework Vision Transformer 3D auto-supervisé pour l'IRM cérébrale. Il aligne des tokens globaux et locaux en paradigme étudiant-enseignant et reconstruit les structures anatomiques. Évalué sur segmentation hippocampique et classification (sexe, Alzheimer), il surpasse les baselines et démontre une meilleure transférabilité inter-domaines.
QE-Catalytic-V2 est un modèle multimodal graph-texte unifié pour les matériaux catalytiques. Il intègre prédiction de propriétés et conception inverse dans un même espace de représentation, éliminant les décalages de distribution entre modèles découplés. Démontre des performances supérieures sur prédiction d'énergie et conception inverse.
CAREBench est un benchmark évaluant la compréhension émotionnelle des LLMs via le raisonnement d'appraisal cognitif. Testé sur 6 modèles avec annotations complètes de chaînes inférentielles (perspectives première/troisième personne), il révèle que les modèles forts égalent les humains sur certaines tâches mais échouent sur le raisonnement d'appraisal et la reconnaissance d'émotions positives.
Des agents de réseaux de neurones peu profonds maîtrisent le jeu de cartes Schnapsen via apprentissage par renforcement. RLBot, entraîné par mises à jour Monte Carlo asynchrones, surpasse MLPBot (imitation supervisée) et bat significativement RdeepBot, un baseline basé sur la recherche. La combinaison d'une fonction de valeur apprise avec une recherche plus profonde en jeu améliore les performances.
Distinguishable Deletion (D²) unifie suppression de connaissance et refus pour l'oubli des LLM. La méthode utilise un index énergétique pour effacer les connaissances indésirables dans les représentations latentes plutôt que des tokens spécifiques, évitant la suppression biaisée et la réémergence de contenu nuisible. Energy-based Unlearning Alignment (EUA) applique ce mécanisme à l'entraînement et l'inférence.
Vision Inference Former (VIF) est un module architectural léger qui améliore la cohérence visuelle dans les modèles multimodaux. Il injecte continuellement les sémantiques visuelles pendant la génération pour contrer l'affaiblissement de l'alignement vision-langage sur de longues séquences. Testé sur 14 benchmarks (raisonnement, OCR, tableaux), VIF améliore les performances avec surcharge minimale.
Optimisation de CSRNet avec des mécanismes d'attention sans paramètres pour compter les foules dans les transports publics. Évaluation de modules PFCA, SA et SimAM sur le dataset ShanghaiTech. PFCASA (combinaison novel PFCA+SA) surpasse les approches paramétrées tout en réduisant la taille du modèle, applicable aux systèmes embarqués.
Étude évaluant 8 modèles multimodaux (Gemini-2.5-Pro, o3, etc.) sur leur robustesse face aux biais cognitifs dans des vidéos courtes chinoises contenant de la désinformation. Dataset de 200 vidéos annotées manuellement couvrant 4 domaines sanitaires. Gemini-2.5-Pro obtient 71.5/100, o3 35.2. Les modèles sont vulnérables aux indices sociaux comme les IDs de chaînes autoritaires.
Framework d'annotation pour distiller les connaissances expertes d'un LLM multilingue (Llama3.1) afin d'entraîner des classifieurs BERT pour le tagging médical en polonais. DistilBERT atteint F1 > 0.80 sur 5 catégories cliniques (Radiologie, Oncologie, Cardiologie, Hypertension, Pathologie) avec 500× moins de paramètres et 300× moins de VRAM qu'un LLM.
Étude de 130 882 images issues de 368 « remix parties » sur Artbreeder (13 mois). Les images convergeaient vers des attracteurs thématiques communs (steampunk, architecture alien) en devenant plus simples. Paradoxe : les parents novateurs produisaient des enfants plus complexes et appréciés, mais les utilisateurs préféraient remixer des images moins novatrices.
COMPACT, un framework de distillation CoT multi-enseignants, fusionne adaptativement les supervisions de plusieurs LLMs vers des modèles compacts. Il pondère dynamiquement les gradients des enseignants via trois métriques : consensus basé graphe, adaptabilité par information mutuelle, et difficulté basée perte. Résultats SOTA sur plusieurs benchmarks sans oubli catastrophique.
swm est un outil open-source qui automatise l'installation de frameworks (ComfyUI, Ollama, OpenWebUI, vLLM) sur GPU cloud en une commande. Il agrège les prix de 10+ fournisseurs (RunPod, Vast.ai, Lambda), synchronise les workspaces via S3, et termine automatiquement les instances inactives après 30 min pour réduire les coûts.
Mise à jour du projet club-5060ti : repo structuré de benchmarks et recettes pour LLM locaux sur RTX 5060 Ti. Inclut explorateur de résultats statique, schéma JSON validé, recettes single/dual-card, support llama.cpp/vLLM. Baseline : RTX 5060 Ti 16GB. Recommande llama.cpp/GGUF pour GPU mixtes, vLLM NVFP4/MTP spécifique à Blackwell.
Corpus multilingue gratuit de 9,8M documents couvrant 11 langues indiennes (hindi, bengali, tamoul, télougou, marathi, goujarati, kannada, malayalam, pendjabi, ourdou, anglais). 8,4B tokens, licence CC0, disponible sur HuggingFace.
Google DeepMind utilise Co-Scientist, un agent IA, pour identifier des facteurs génétiques capables de rajeunir les cellules humaines. Les chercheurs ont découvert de nouveaux gènes impliqués dans le processus de vieillissement cellulaire.
Cursor lance Composer 2.5, un modèle de code basé sur Kimi K2.5 et entraîné sur 25x plus de tâches synthétiques. Il égale les performances d'Opus 4.7 et GPT-5.5 sur les benchmarks à un coût nettement inférieur.
Hugging Face publie un guide pour fine-tuner NVIDIA Cosmos Predict 2.5, un modèle de génération vidéo robotique, via LoRA/DoRA. La méthode réduit les besoins en ressources GPU tout en maintenant la qualité de génération pour des cas d'usage robotiques spécialisés.