Retour au feed
arXiv cs.CL·

MentalMARBERT: Domain-Adaptive Pre-training and Two-Stage Fine-Tuning for Arabic Mental Health Disorders Detection

Signal
72
Hype
15
En 3 lignesÉtude proposant MentalMARBERT, un modèle BERT adapté au domaine pour détecter les troubles mentaux dans les textes arabes. Framework deux phases : adaptation de domaine (DAPT/TAPT) sur 50 670 tweets annotés, puis fine-tuning hiérarchique avec LoRA. Macro-F1 de 0.861, accuracy 0.877.
Lire la source
Ton avis ?
Fine-tuningBenchmarksSécurité IAPapers

Résumé généré par Claude — vérifié par l'humain