GRASP: Geometry-aware Residual Alignment for Scalable Pretraining Data Attribution

En 3 lignesGRASP est une méthode d'attribution de données qui modélise les interactions entre sous-ensembles d'entraînement via une pénalité géométrique quadratique, dépassant les approches additives isolées. Évaluée sur du préentraînement à grande échelle, elle double la corrélation de rang pour la fidélité contrefactuelle et réduit les coûts de construction d'artefacts d'un ordre de magnitude.

Résumé généré par Claude — vérifié par l'humain