When Roleplaying, Do Models Believe What They Say?

En 3 lignesÉtude sur la distinction entre ce que les modèles de langage disent et ce qu'ils croient vraiment. Via des sondes linéaires appliquées à Claude, Qwen et Llama en rôle-play historique, les auteurs montrent que l'adoption de persona modifie surtout les outputs, pas les représentations internes de vérité. Contraste avec l'Emergent Misalignment où les fausses affirmations se déplacent vers l'espace des vraies croyances.

Résumé généré par Claude — vérifié par l'humain