Observable Patterns Are Not Explanations: A Causal-Geometric Analysis of Latent Reasoning Models

En 3 lignesAnalyse causale de modèles de raisonnement latent (Coconut, CODI) : les patterns observables (frontières BFS, calcul arithmétique décodable) ne sont pas des preuves de mécanismes de raisonnement. Les interventions causales montrent que l'utilisation des pensées latentes est graduée, non binaire, et concentrée dans des directions de faible rang. La décodabilité seule ne suffit pas à établir un mécanisme.

Résumé généré par Claude — vérifié par l'humain