How Few-Shot Examples Add Up: A Causal Decomposition of Function Vectors in In-Context Learning

En 3 lignesÉtude mécanistique de l'apprentissage en contexte (ICL) : les vecteurs de fonction n-shot se décomposent linéairement en contributions d'exemples individuels. Les modèles repondèrent adaptivement les démonstrations via attention, privilégiant les exemples informatifs et non-ambigus. L'alignement Query-Key domine la qualité du vecteur de fonction.

Résumé généré par Claude — vérifié par l'humain