Revealing Algorithmic Deductive Circuits for Logical Reasoning

En 3 lignesÉtude sur la localisation des mécanismes de raisonnement logique dans les LLM. Les chercheurs identifient les attention heads responsables de chaque étape de raisonnement via analyse de médiation causale. Résultat : ~3% des heads gèrent l'extraction de faits/règles, les couches supérieures coordonnent l'intégration globale et les stratégies de traversée de graphe.

Résumé généré par Claude — vérifié par l'humain