SignalIA
ENFR
← Back to feed
STORY · MULTI-SOURCE·1 sources·SIG 72

Designing AI agents to resist prompt injection

OpenAI détaille les défenses de ChatGPT contre l'injection de prompts et l'ingénierie sociale dans les workflows d'agents IA. Approche basée sur la contrainte des actions risquées et la protection des données sensibles.

OpenAIAI AgentsAI safetyPrompt engineering

Timeline

  1. 11 Mar 11:30
    OpenAI BlogDesigning AI agents to resist prompt injection

    OpenAI outlines ChatGPT's defenses against prompt injection and social engineering in AI agent workflows. Approach: constraining risky actions and protecting sensitive data at the agent level.

    SIG 72
Read the primary source