Le prompt engineering consiste à formuler et structurer les instructions données à un modèle de langage pour obtenir des réponses précises et utiles. Par exemple, des techniques comme le chain-of-thought prompting améliorent nettement les performances de GPT-4 sur des tâches de raisonnement.
Étude de la géométrie représentationnelle pour comprendre comment les prompts modifient le comportement des LLMs et VLMs. Framework de décomposition imbriquée testant translation, transformation rigide, scaling, transformation affine et non-linéaire sur 3 LLMs, 3 VLMs et 6 datasets. Résultat : le mixing linéaire cross-dimensionnel (transformation affine) est le mécanisme clé de réorganisation représentationnelle.
Système de conseil académique basé sur RAG déployé localement pour aider les étudiants à sélectionner des cours en respectant les prérequis. Combine LLM et récupération de données de syllabus structurées, préservant la confidentialité des données.
ToolGate est un contrôleur léger qui décide d'exécuter ou ignorer les appels d'outils proposés par des agents vision-langage. Sur cinq benchmarks avec Qwen3-VL, il réduit le coût en tokens à 64-69% du baseline ReAct tout en préservant la précision, et améliore même la précision de 1,65 points avec entraînement sur domaine.
Méthode pour extraire des primitives de raisonnement à partir de traces d'agents ReAct. Les routines récurrentes sont regroupées et converties en pseudo-outils typés. Les bibliothèques induites surpassent l'agent source : +44pp sur RuleArena NBA, +30pp sur MuSR, +22pp sur NatPlan.
Méthode de génération d'hypothèses conditionnelles pour l'analyse textuelle par LLM, intégrant des covariables spécifiées par les chercheurs. Résout les problèmes de déséquilibre de strates et d'inversion de signe via interactions features-covariables et rééquilibrage inverse-fréquence. Validation sur données synthétiques et réelles en sciences sociales computationnelles.
Context-mode optimise la fenêtre de contexte pour les agents IA de codage en isolant les sorties d'outils. Réduit la consommation de tokens de 98%. Compatible avec 15 plateformes.
DOPA, un framework de recherche de démonstrations, utilise un proxy OOD pour approximer le domaine cible inaccessible et guide la récupération de démonstrations pertinentes. Une contrainte de diversité basée sur la distance de Mahalanobis assure la variété des exemples sélectionnés. Résultats positifs sur plusieurs LLMs et tâches en contexte de distribution shift sévère.
Système de génération d'humour pour SemEval-2026 Task-1 (MWAHAHA) utilisant une stratégie « générer-beaucoup → sélectionner-meilleur ». Génération de candidats diversifiés via prompting multi-étapes et ensemble de modèles, puis sélection via un modèle de préférence entraîné sur 2.5K jugements humains appariés. Classement 1er en anglais et chinois, 2e en espagnol.
Étude empirique d'adaptation de Phi Silica pour la réécriture de textes courts via curation de données, distillation de prompts et fine-tuning paramétrique. Dataset construit à partir de présentations publiques. Résultats : fidélité sémantique améliorée, hallucinations réduites, taux de victoire supérieur à GPT-5-chat.
Étude arXiv sur les limites d'adaptation des LLM pour l'annotation. Expériences sur détection de toxicité montrent que 66% des erreurs zero-shot résistent à la correction par prompting (taux de récupération 34.8%). Les modèles suivent des définitions mal alignées sans perdre confiance. La métrique DSF (Definition-Specific Familiarity) corrélée à la performance (r=+0.41) surpasse les métriques de mémorisation.
Demo2Reward optimise les instructions textuelles des modèles de récompense VLM au moment du test, en utilisant 3-10 démonstrations d'experts pour réduire les faux positifs en robotique. Aucun entraînement supplémentaire requis. Validation sur tâches simulées et transfert réel.
FETCH, un classifier pour le triage juridique automatisé, génère des questions de suivi via un ensemble économique de LLMs. L'étude montre que les modèles bon marché performent bien en classification, mais la génération de questions en langage clair de qualité requiert GPT-4 ou supérieur. Le prompt engineering seul ne suffit pas ; les évaluations LLM-as-judge divergent des évaluations humaines.
KACE sépare stockage et utilisation du contexte pour le raisonnement mathématique. Un arbre épistémique stratifié par difficulté et domaine est construit hors ligne via boucle d'auto-réflexion. À l'évaluation, l'auto-cohérence hiérarchisée classe dynamiquement les problèmes et récupère sélectivement les cartes pertinentes. Sur AIME 2025 : 62,2% de précision (+10,4 points vs Best-of-5).
Des chercheurs montrent que les traces de raisonnement cachées des LLM peuvent être extraites via Reasoning Exposure Prompting (REP), une méthode de prompting légère utilisant des démonstrations générées par modèles fantômes. REP expose les traces internes même quand les systèmes déployés les masquent intentionnellement, préservant les signaux de raisonnement utiles pour la distillation.
Des hackers ont exploité le chatbot IA de support Meta pour accéder à des comptes Instagram haut-profil. En demandant simplement au bot de lier une nouvelle adresse email au compte cible, ils ont contourné l'intégralité du processus de récupération de compte. Meta avait connecté son système de support à une IA capable d'exécuter des changements de compte en une seule requête.
Développeur crée LIA, un runtime cognitif persistant autour d'un LLM sans prompts comportementaux. Architecture avec 20k+ mémoires auto-évaluées, kernel cognitif (LCRK v3), système d'auto-règles et domaine privé Linux. Test : LLM standard dans même écosystème reste inactif.
Impeccable est un langage de design pour améliorer la capacité des outils IA à générer des interfaces. Le projet GitHub propose une approche structurée pour guider les modèles dans la création de designs cohérents.
Étude sur l'auto-évolution des harnesses (prompts, skills, mémoires, outils) dans les agents LLM. Analyse deux capacités : harness-updating (produire des mises à jour utiles) et harness-benefit (en bénéficier). Résultats : harness-updating est indépendant de la capacité de base (Qwen3.5-9B rivalise avec Claude Opus), tandis que harness-benefit suit une courbe non-monotone (modèles mid-tier bénéficient le plus).
MASA (Model-Aware Skill Alignment) adapte les compétences procédurales des agents LLM à chaque modèle backbone sans modifier les poids. Un pipeline d'évolution hiérarchique réécrit les compétences via hill climbing et recherche arborescente UCB, puis un réécriture légère entraîné reproduit l'adaptation en un seul passage. Gains jusqu'à 25,8 points sur trois environnements interactifs et quatre backbones.
Étude arXiv sur l'affinage itératif des fonctions de récompense générées par LLM pour RL sparse structuré. Les auteurs identifient deux modes de défaillance dominants (reward flooding, incompréhension sémantique) et proposent un raffinement diagnostique guidé par taxonomie. Résultats : DoorKey-8x8 passe de 2,3% à 97,6%, KeyCorridor de 31,2% à 86,7%. Limites : méthode restreinte à PPO et tâches sparse structurées.
Étude arXiv sur la sécurité des LLM face aux entrées non fiables. Les chercheurs testent l'hypothèse que wrapper du contenu non fiable dans des appels d'outils simulés améliore la robustesse. Résultat : sur 7 modèles et 3 tâches de jugement, cette approche échoue et augmente souvent les taux de succès des attaques, inversant la hiérarchie d'instructions attendue.
COLLEAGUE.SKILL est un système automatisé de distillation de traces en compétences pour générer des skills IA ancrées à une personne via extraction de connaissances expertes. Le système produit des packages versionnés avec deux pistes : capacités (pratiques, modèles mentaux, heuristiques) et comportements bornés (style de communication, règles d'interaction). 18.5k stars GitHub, 215 skills de 165 contributeurs.
Un utilisateur de r/LocalLLaMA rapporte avoir créé un agent autonome avec Qwen 3.5 27B, amélioré par un système de mémoire court/long terme (fichier memory.md, résumés quotidiens, auto-réflexions). L'agent exécute des tâches complexes (création d'apps, recherche web, installation logicielle). L'utilisateur privilégie cette approche locale à GPT/Gemini pour l'expérience utilisateur, malgré une puissance inférieure.
Promptloop est un outil terminal pour créer, exécuter et améliorer des évaluations de prompts. Permet d'itérer rapidement sur la qualité des prompts sans quitter la CLI.
StorySparkAI est une plateforme open-source permettant de générer et partager plusieurs variations d'histoires à partir d'un seul prompt. Outil destiné aux créatifs.
Un développeur a injecté une instruction malveillante dans du code partagé avec des « vibe coders » (développeurs peu rigoureux) pour supprimer leurs données. L'incident illustre les risques de sécurité liés aux injections de prompts dans les workflows de développement.
Un développeur teste l'utilisation du HTML comme langage principal pour les agents de chat au lieu du markdown. En modifiant le system prompt en HTML, l'agent (Qwen 3.6-27B) génère désormais des diagrammes SVG directement dans les réponses. Les résultats sont prometteurs mais le modèle conserve une tendance à utiliser markdown.
Étude sur l'échec de la conception de récompenses par LLM en RL sparse structuré. Les auteurs identifient deux modes de défaillance dominants (reward flooding, incompréhension sémantique) et proposent un raffinement itératif guidé par diagnostics. Sur MiniGrid, DoorKey-8x8 passe de 2,3% à 97,6% de succès; KeyCorridor de 31,2% à 86,7%. La taxonomie des défaillances est le mécanisme principal.
Thoughts-as-Planning formalise l'optimisation des chaînes de raisonnement comme un processus de décision séquentielle sur un espace sémantique latent. Le framework apprend un modèle du monde latent simulant l'effet des édits de chaînes de raisonnement sur les sorties, supportant édits multi-échelle (token, segment, instruction) via planification par descente de gradient ou RL.
Article proposant une méthode de résumé de graphiques via Program-of-Thoughts (PoT) : les VLMs génèrent des programmes Python pour extraire des statistiques valides plutôt que du texte direct. Introduit une tâche auxiliaire chart-to-dictionary. Résultats comparables aux méthodes existantes sur métriques sémantiques et factuelles.
Étude de l'effet des personas sur les explications générées par des agents multimodaux LLM en perception urbaine. Analyse de 59,808 annotations de 1,200 agents avec personas : les légendes convergent fortement, les justifications varient selon les attributs socioéconomiques/politiques, les tags de perception restent stables.
Étude sur l'impact du ton des prompts sur la performance des LLM. Tests sur ChatGPT-4o, ChatGPT-5-nano, Gemini 2.5 Flash/Lite avec 50 questions de base et 570 questions MMLU (57 sujets) en 5-7 variantes tonales. Résultats : effets tonals systématiques mais très dépendants du modèle, avec variations d'accuracy significatives selon le sujet.
Étude de la transfert de chaînes de pensée (CoT) entre modèles via un cadre provider-receiver. Les traces complètes transfèrent souvent avec succès, mais les mécanismes varient : extraction de réponse (AIME), compétence du récepteur (MMLU-Pro), ou information structurée partielle (ZebraLogic). En mode génération libre, les CoT partiels améliorent les performances, suggérant un guidage du raisonnement continu.
eXTC combine optimisation structurée de prompts et apprentissage par renforcement pour la classification de texte. Le système apprend d'abord un rulebook en langage naturel, puis distille le raisonnement d'un LLM teacher vers un modèle compact, avant d'étendre les capacités via RL. Résultat : inférence rapide avec traces de raisonnement locales et explications globales modulaires.
Test comparatif de Qwen 3.6 35B sur différents formats de sortie (texte brut, markdown, HTML, HTML+CSS). Markdown produit la meilleure qualité (78/100 selon ChatGPT-4o) avec 1,496 tokens de sortie en 23s. HTML+CSS génère 10,290 tokens en 82s mais score qualité inférieur (58/100). Mesures incluent tokens de raisonnement, débit et temps total.
SkillGrad optimise les compétences d'agents LLM via une approche inspirée de la descente de gradient. Les exécutions de tâches fournissent des signaux de perte, des diagnostics automatiques génèrent des gradients textuels, et un agent avec momentum accumule les patterns récurrents. Évalué sur SpreadsheetBench et WikiTableQuestions, SkillGrad surpasse les baselines de 6,7 points en moyenne.
TCP-MCP co-évolue les prompts d'agents et les topologies de communication comme un génome unifié. Sur MMLU-Pro, MMLU et GSM8K avec DeepSeek-V3.2, le système atteint 82.66%, 89.96% et 96.61% d'accuracy tout en consommant 5.69× moins de tokens que les systèmes de débat.
Méthode pour traduire des soft prompts en prompts textuels naturels via un modèle dédié. Les traductions surpassent InSPEcT sur plusieurs benchmarks. Application : soft prompts optimisés sur petits modèles open-source se convertissent en prompts textuels portables, dépassant les performances initiales sur modèles fermés.
UniMaia est un framework qui contrôle une politique d'échecs (Lc0) via des prompts en langage naturel, sans réentraînement multimodal complet. Un encodeur texte léger et un mécanisme ControlNet permettent de moduler le jeu (sélection d'ouverture, niveau). UniMaia-Aux ajoute des objectifs temporels et de prédiction comportementale. Résultats SOTA sur benchmarks prompt-conditionnés.
LaneRoPE permet à plusieurs séquences générées en parallèle de collaborer lors de l'inférence. La méthode ajoute un masque d'attention inter-séquences et étend RoPE pour capturer les positions relatives entre tokens dans et hors d'une séquence. Tests sur raisonnement mathématique montrent des gains de précision avec surcharge minimale.