Attention-Guided Reward for Reinforcement Learning-based Jailbreak against Large Reasoning Models

En 3 lignesÉtude des attaques jailbreak contre les modèles de raisonnement (LRM) via apprentissage par renforcement. Les chercheurs montrent que le taux de succès des attaques corrèle avec les patterns d'attention du modèle. Ils proposent une méthode RL intégrant des signaux d'attention dans la fonction de récompense, testée sur 5 LRM avec résultats supérieurs en efficacité et transférabilité.

Résumé généré par Claude — vérifié par l'humain