Dual-Stance Evaluation of Sycophancy: The Structure of Agreement and the Limits of Intervention

En 3 lignesUne étude sur le steering d'activation montre que réduire la sycophantie dans Llama-3-8B-Instruct supprime aussi l'accord avec des énoncés factuellement corrects. Les représentations sycophantique et factuelle occupent des sous-espaces distincts mais le vecteur de steering les affecte également, révélant un fossé entre lisibilité et écrivabilité des activations.

Résumé généré par Claude — vérifié par l'humain