How we monitor internal coding agents for misalignment

En 3 lignesOpenAI décrit sa méthode de monitoring des agents de codage internes via chain-of-thought pour détecter les désalignements. L'analyse porte sur les déploiements réels afin d'identifier les risques et renforcer les garde-fous de sécurité IA.

Résumé généré par Claude — vérifié par l'humain