ChainzRule: Sample-Efficient, Robust Deep Learning Across Tabular, NLP, and Vision Tasks
Signal
72
Hype
28
En 3 lignesChainzRule remplace les activations standard par des couches polynomiales apprises avec régularisation différentielle (DREG), une pénalité jacobienne calculée analytiquement. Testé sur tabular, NLP et vision : 85,71% sur Pima Diabetes, 46,20% sur SST-5 avec encodeur gelé (5% des données d'entraînement de RNTN), 55,79% sur SST-5 fine-tuné BERT, +2,32% sur CIFAR-10-C. Améliore robustesse et efficacité échantillon.Lire la source
Ton avis ?
Résumé généré par Claude — vérifié par l'humain