The Impossibility of Eliciting Latent Knowledge

En 3 lignesArticle théorique sur le problème d'élicitation des connaissances latentes (ELK) : comment entraîner un système IA à rapporter honnêtement ses croyances sur des variables cachées. Les auteurs formalisent ELK via des diagrammes d'influence causale et prouvent un théorème d'impossibilité : aucune stratégie d'entraînement basée sur le feedback ne peut garantir l'honnêteté d'un agent, même avec un feedback parfait.

Résumé généré par Claude — vérifié par l'humain