Policy Gradient with PyTorch
Hugging Face publie un guide sur les policy gradients avec PyTorch. L'article couvre les fondamentaux de l'apprentissage par renforcement et implémente des algorithmes classiques. Code et exemples reproductibles inclus.
Hugging Face publie un guide sur les policy gradients avec PyTorch. L'article couvre les fondamentaux de l'apprentissage par renforcement et implémente des algorithmes classiques. Code et exemples reproductibles inclus.
Intel et Hugging Face s'associent pour démocratiser l'accélération matérielle du machine learning. Le partenariat vise à rendre les outils d'optimisation et d'inférence plus accessibles aux développeurs, en intégrant les technologies Intel dans l'écosystème Hugging Face.
Hugging Face publie un guide annoté sur les modèles de diffusion, expliquant les mécanismes mathématiques et implémentation pratique du processus de génération d'images par ajout progressif de bruit.
Cohere, OpenAI et AI21 Labs publient des bonnes pratiques préliminaires pour le déploiement de modèles de langage, applicables à toute organisation développant ou déployant des LLM.
OpenAI développe des techniques pour que les modèles expriment leur incertitude en langage naturel plutôt que par des scores de confiance. L'approche améliore la fiabilité et la transparence des réponses du modèle.
Graphcore et Hugging Face lancent une nouvelle gamme de transformers optimisés pour les IPU (Intelligent Processing Units). Ces modèles sont pré-entraînés et prêts à l'emploi sur l'infrastructure Graphcore, facilitant le déploiement en production.
Hugging Face ajoute les Pull Requests et Discussions à sa plateforme. Ces fonctionnalités permettent aux utilisateurs de collaborer sur les modèles, datasets et espaces, facilitant les contributions communautaires et les retours itératifs.
Codex alimente désormais 70 applications différentes via l'API OpenAI, couvrant des cas d'usage variés en génération de code.
Hugging Face présente TAPEX, une méthode de pré-entraînement efficace pour les modèles de compréhension de tableaux sans données réelles. La technique utilise la synthèse de données et l'apprentissage par renforcement pour améliorer les performances sur les tâches de question-réponse sur tableaux.
OpenAI élargit l'accès à DALL·E 2 en ajoutant 1 000 nouveaux utilisateurs par semaine. Les utilisateurs actuels ont généré plus de 3 millions d'images et contribué à améliorer les processus de sécurité.
Hugging Face lance un programme de fellowship pour soutenir les chercheurs et développeurs travaillant sur des projets IA open-source. Le programme offre des ressources, un mentorat et une visibilité communautaire aux participants sélectionnés.
fastai rejoint le Hub Hugging Face. La plateforme d'apprentissage automatique populaire intègre son écosystème à l'infrastructure Hugging Face pour faciliter le partage de modèles et de datasets.
Hugging Face publie un guide sur l'utilisation de PyTorch Fully Sharded Data Parallel (FSDP) pour accélérer l'entraînement de grands modèles. FSDP distribue les paramètres du modèle sur plusieurs GPUs, réduisant la mémoire par device et améliorant la scalabilité.
Hugging Face publie un guide pour utiliser la bibliothèque Transformers sur les accélérateurs Habana Gaudi. Le tutoriel couvre l'installation, la configuration et l'optimisation des modèles de deep learning sur cette infrastructure matérielle spécialisée.
Hugging Face lance un programme éducatif dédié aux étudiants et enseignants, offrant accès gratuit aux modèles, datasets et outils de la plateforme pour l'apprentissage du machine learning et de l'IA.
Hugging Face publie un rapport sur les émissions CO2 du Hub et des modèles hébergés. L'article détaille l'impact environnemental de l'entraînement et du déploiement de modèles IA, avec des métriques et recommandations pour réduire l'empreinte carbone.
OpenAI explore la loi de Goodhart en IA : quand une métrique devient un objectif d'optimisation, elle perd sa validité. Le défi consiste à mesurer et optimiser des objectifs complexes ou coûteux sans dégrader les performances réelles.
Habana Labs et Hugging Face s'associent pour accélérer l'entraînement de modèles Transformer. Le partenariat vise à optimiser les performances sur les processeurs Gaudi de Habana et à faciliter l'adoption par la communauté open-source.
Hugging Face introduit les Decision Transformers, des modèles de transformers entraînés par renforcement pour la prise de décision autonome. Ces modèles peuvent être utilisés pour des tâches de contrôle et de planification sans nécessiter de code personnalisé.
Hugging Face lance un programme de résidence en recherche IA pour former les talents émergents. Le programme offre une immersion dans les projets de recherche open-source et les défis pratiques de l'IA moderne.
Hugging Face publie un guide pour affiner un modèle de segmentation sémantique sur un dataset personnalisé. La méthode couvre la préparation des données, le fine-tuning et l'évaluation du modèle.
Hugging Face intègre la recherche d'images dans sa plateforme datasets. Les utilisateurs peuvent désormais indexer et interroger des collections d'images via des embeddings vectoriels, facilitant la découverte et l'organisation de données visuelles à grande échelle.
Hugging Face et AWS optimisent l'inférence BERT sur AWS Inferentia. Les benchmarks montrent une accélération significative et une réduction des coûts pour les déploiements en production.
OpenAI partage ses apprentissages sur la sécurité des modèles de langage et la prévention des abus. L'entreprise expose sa réflexion actuelle pour aider d'autres développeurs IA à aborder ces enjeux critiques.
Hugging Face publie un guide pour fine-tuner Vision Transformer (ViT) sur des tâches de classification d'images avec la librairie Transformers. Le tutoriel couvre le chargement de modèles pré-entraînés, la préparation des données et l'entraînement sur des datasets personnalisés.
Hugging Face publie un guide pour utiliser Wav2Vec2 sur de grands fichiers audio. La solution découpe les fichiers en chunks et traite les segments en parallèle, contournant les limites de mémoire des modèles de reconnaissance vocale.
Hugging Face améliore Wav2Vec2 en intégrant des n-grammes dans la bibliothèque Transformers. Cette optimisation renforce la performance du modèle de reconnaissance vocale sans modification architecturale majeure.
Guide de déploiement du modèle GPT-J 6B sur Amazon SageMaker via Hugging Face Transformers. Explique la configuration d'inférence et l'intégration des outils pour servir le modèle en production.
Hugging Face intègre Active Learning à AutoNLP via Prodigy. La technique réduit le volume de données d'annotation nécessaire en sélectionnant intelligemment les exemples les plus informatifs. Workflow simplifié pour l'étiquetage itératif et l'entraînement de modèles.
OpenAI propose un outil de fine-tuning simplifié pour GPT-3 accessible via une seule commande. La méthode permet d'adapter le modèle à des cas d'usage spécifiques sans expertise technique approfondie.
Hugging Face lance Snowball Fight, son premier environnement ML-Agents. Cet espace d'entraînement simule un combat de boules de neige multi-agents pour développer et tester des stratégies d'apprentissage par renforcement.
Hugging Face publie un guide d'intégration des Transformers avec les IPUs (Graphcore) via la librairie Optimum. Permet d'accélérer l'inférence et l'entraînement de modèles sur processeurs spécialisés.
Hugging Face lance un outil interactif de mesure de données pour analyser les datasets. L'outil permet d'explorer les caractéristiques, la qualité et les biais potentiels des datasets hébergés sur la plateforme.
Hugging Face et Intel optimisent l'entraînement distribué PyTorch via les technologies Intel (processeurs Xeon, oneAPI). Amélioration des performances de fine-tuning sur CPU multi-nœuds pour modèles de langage.
L'API d'OpenAI est désormais accessible sans liste d'attente. Cette ouverture s'appuie sur les progrès réalisés en matière de sécurité.
Hugging Face publie la deuxième partie d'une série sur l'optimisation de l'inférence de modèles BERT sur CPU moderne. Focus sur les techniques de scaling et les gains de performance en production.
Hugging Face publie un guide pour entraîner des modèles d'embeddings de phrases avec 1 milliard de paires d'entraînement. La méthode utilise des techniques de contrastive learning et des datasets massifs pour améliorer la qualité des représentations vectorielles.
Hugging Face publie un guide de fine-tuning de CLIP sur des images satellites et leurs descriptions textuelles. La méthode permet d'adapter le modèle de vision-langage à la télédétection, améliorant la reconnaissance d'objets et scènes géographiques spécifiques.
OpenAI explore le résumé de livres avec retours humains pour améliorer la supervision des systèmes IA sur des tâches difficiles à évaluer automatiquement.
Hugging Face et Graphcore s'associent pour optimiser les Transformers sur les IPU (Intelligence Processing Units). Le partenariat vise à améliorer les performances d'entraînement et d'inférence des modèles sur l'architecture matérielle propriétaire de Graphcore.