Alignment pretraining: AI discourse creates self-fulfilling (mis)alignment

En 3 lignesUn article théorique sur comment le discours public autour de l'alignement IA peut créer des prophéties auto-réalisatrices. L'auteur argue que les narratifs dominants sur le risque d'alignement influencent le développement réel des modèles, créant potentiellement les problèmes qu'on cherche à éviter.

Résumé généré par Claude — vérifié par l'humain