Geometry-Lite: Interpretable Safety Probing via Layer-Wise Margin Geometry

En 3 lignesGeometry-Lite est une sonde de sécurité compacte qui analyse la géométrie des représentations cachées à travers les couches de LLMs (1.2B–70B). Elle mappe les marges de chaque couche via trois méthodes (centroïde, voisinage local, frontière linéaire) et montre que la détection de prompts non-sûrs repose principalement sur la géométrie persistante des marges, non sur le mouvement inter-couches.

Résumé généré par Claude — vérifié par l'humain