Routing-Aware Expert Calibration for Machine Unlearning in Mixture-of-Experts Language Models

En 3 lignesTRACE, une méthode de désapprentissage pour modèles MoE, détecte les experts critiques activés par les données à oublier et recalibre la régularisation en rééquilibrant les pertes sur les données à retenir. Expériences sur WMDP et MUSE-BOOKS montrent 9% d'amélioration d'utilité relative vs baseline.

Résumé généré par Claude — vérifié par l'humain