In-Context Optimization for Retrieval-Augmented Generation: A Gradient-Descent Perspective

En 3 lignesÉtude théorique montrant qu'une couche de self-attention linéaire peut implémenter une étape de gradient descent sur un objectif RAG unifié. Les auteurs proposent une méthode légère pour adapter l'interaction entre requêtes et documents récupérés sans modifier le retriever ni le modèle backbone, testée sur 7 benchmarks QA avec améliorations significatives.

Résumé généré par Claude — vérifié par l'humain