Designing AI agents to resist prompt injection
OpenAI détaille les défenses de ChatGPT contre l'injection de prompts et l'ingénierie sociale dans les workflows d'agents IA. Approche basée sur la contrainte des actions risquées et la protection des données sensibles.
Chronologie
- 11 mars 11:30OpenAI BlogDesigning AI agents to resist prompt injection
OpenAI détaille les défenses de ChatGPT contre les injections de prompts et l'ingénierie sociale dans les workflows d'agents IA. Stratégies : contraindre les actions risquées et protéger les données sensibles au niveau de l'agent.
SIG 72