GIST: Targeted Data Selection for Instruction Tuning via Coupled Optimization Geometry
Signal
78
Hype
15
En 3 lignesGIST propose une méthode de sélection de données ciblée pour l'instruction tuning. Elle remplace les approximations diagonales par un alignement robuste en sous-espace via SVD, récupérant les directions pertinentes pour la tâche. Avec 0,29% du stockage et 25% du temps de calcul, GIST égale ou surpasse les baselines existantes.Lire la source
Ton avis ?
Résumé généré par Claude — vérifié par l'humain