Measuring, Localizing, and Ablating Alignment Signatures in LLMs

En 3 lignesÉtude des signatures stylistiques introduites par l'alignement des LLM. Les chercheurs montrent que le post-training crée un style détectable par les détecteurs IA. Ils proposent PASTA, une méthode sans entraînement qui localise et supprime cette signature lors du décodage, réduisant les taux de détection sur 11 modèles alignés.

Résumé généré par Claude — vérifié par l'humain