Retour au feed
arXiv cs.CL·

Predictable Confabulations: Factual Recall by LLMs Scales with Model Size and Topic Frequency

Signal
82
Hype
15
En 3 lignesÉtude de 38 modèles sur 8 900 références académiques : la qualité du rappel factuel suit une sigmoïde combinant la taille du modèle et la fréquence du sujet dans les données d'entraînement. Ces deux variables expliquent 60-94% de la variance. Le modèle propose que le rappel est limité par un rapport signal/bruit.
Lire la source
Ton avis ?
BenchmarksPapersRaisonnement

Résumé généré par Claude — vérifié par l'humain