Inference-Time Vulnerability Beyond Shallow Safety: Alignment Along Generation Trajectories

En 3 lignesDes chercheurs montrent que les LLM alignés restent vulnérables aux injections de tokens à n'importe quel stade de génération, pas seulement au début. L'alignement sur les états internes ne suffit pas. Entraîner directement sur les trajectoires de génération perturbées améliore la robustesse.

Résumé généré par Claude — vérifié par l'humain