DIVE: Embedding Compression via Self-Limiting Gradient Updates

En 3 lignesDIVE compresse les embeddings de LLM via des adaptateurs légers avec perte triplet auto-limitante et contrastive NT-Xent. Surpasse Matryoshka-Adaptor, Search-Adaptor et SMEC sur 6 datasets BEIR à tous les ratios de compression. Implémentation open-source 14M paramètres.

Résumé généré par Claude — vérifié par l'humain