10 articles
Hugging Face lance un outil d'évaluation pour mesurer les biais dans les modèles de langage. La plateforme Evaluate permet de tester systématiquement les biais de genre, de race et autres dans les LLM via des benchmarks standardisés.
Hugging Face publie un guide sur la progression de DDP PyTorch à Accelerate puis Trainer pour maîtriser l'entraînement distribué. Le parcours pédagogique montre comment abstraire progressivement la complexité des entraînements multi-GPU/multi-nœud.
OpenAI publie une étude sur les lois d'échelle de la suroptimisation des modèles de récompense. Les chercheurs quantifient comment les performances se dégradent quand on optimise excessivement une fonction de récompense, avec implications pour l'entraînement par renforcement et l'alignement des modèles.
Hugging Face publie MTEB, un benchmark massif pour évaluer les modèles d'embedding texte. Il couvre 58 langues, 8 tâches (retrieval, clustering, classification, etc.) et 112 datasets. Permet de comparer systématiquement les performances des embeddings.
Hugging Face publie un guide pour démarrer avec ses Inference Endpoints, permettant de déployer et servir des modèles en production via une API managée sans gérer l'infrastructure.
Stable Diffusion est maintenant disponible en JAX/Flax. Cette implémentation offre une meilleure performance et scalabilité pour l'inférence et l'entraînement sur TPU et GPU. Le code est open-source sur Hugging Face.
Hugging Face documente l'optimisation de l'inférence du modèle BLOOM. L'article détaille les techniques appliquées pour réduire la latence et augmenter le débit, incluant quantification, batching et optimisations matérielles.
Hugging Face introduit les DOI (Digital Object Identifier) pour les datasets et modèles sur sa plateforme. Les DOI permettent une citation académique standardisée et une traçabilité pérenne des ressources IA, facilitant la reproductibilité et l'intégrité scientifique.
Stability AI et Hugging Face lancent une version japonaise de Stable Diffusion optimisée pour générer des images à partir de prompts en japonais. Le modèle améliore la qualité des résultats pour le texte et les caractères japonais.
Hugging Face publie un guide sur l'évaluation des très grands modèles de langage. L'article couvre les méthodologies, benchmarks et défis spécifiques aux LLM de taille massive, sans détails techniques précis fournis dans l'extrait.