Improving instruction hierarchy in frontier LLMs

En 3 lignesOpenAI présente IH-Challenge, une méthode d'entraînement qui améliore la hiérarchie des instructions dans les LLM frontier. Elle renforce la priorité des instructions de confiance, la sécurité et la résistance aux attaques par injection de prompts.

Résumé généré par Claude — vérifié par l'humain