Hugging Face présente une méthode de formation collaborative de modèles de langage sur Internet, permettant à plusieurs participants de contribuer au training sans centraliser les données. Approche décentralisée réduisant les barrières d'accès au fine-tuning de LLM.
spaCy, la bibliothèque NLP open-source, intègre le Hugging Face Hub. Les modèles spaCy sont désormais accessibles via la plateforme, facilitant le partage et la collaboration pour les tâches de traitement du langage naturel.
Hugging Face et Amazon SageMaker simplifient le déploiement de modèles open-source. L'intégration permet aux développeurs de mettre en production des modèles HF directement via SageMaker sans configuration complexe.
OpenAI publie une méthode d'évaluation pour les modèles de langage entraînés sur du code. L'étude propose des benchmarks et des critères pour mesurer la qualité et la performance des modèles de génération de code.
Sentence Transformers, modèles spécialisés dans l'encodage de phrases en vecteurs, sont désormais intégrés au Hub Hugging Face. Cette intégration facilite l'accès, le partage et le déploiement de ces modèles pour des tâches de recherche sémantique, clustering et similarité textuelle.
Hugging Face démontre le few-shot learning avec GPT-Neo via son API d'inférence accélérée. L'approche permet d'adapter rapidement des modèles de langage à de nouvelles tâches avec peu d'exemples, sans réentraînement complet.
Will Hurd, ancien congressman, rejoint le conseil d'administration d'OpenAI. OpenAI justifie cette nomination par le besoin d'expertise en politique publique aux côtés de l'expertise technologique pour développer l'IA générale.
Amazon et Hugging Face annoncent un partenariat stratégique intégrant les modèles Hugging Face dans SageMaker. La collaboration facilite le déploiement, l'entraînement et l'inférence de modèles open-source via l'infrastructure AWS.
Tutoriel Hugging Face sur le fine-tuning de Wav2Vec2 pour la reconnaissance vocale anglaise. Utilise la bibliothèque Transformers et des datasets publics. Démontre l'ajustement d'un modèle pré-entraîné pour améliorer les performances ASR.
Hugging Face et Ray intègrent la génération augmentée par récupération (RAG) dans Transformers. Le tutoriel montre comment combiner la récupération de documents avec des modèles de langage pour améliorer la précision des réponses sur des données externes.
Hugging Face annonce une intégration optimisée avec PyTorch/XLA pour les TPUs de Google. La collaboration améliore les performances d'entraînement et d'inférence des modèles sur accélérateurs TPU, avec support natif des workflows Hugging Face.
Hugging Face publie une méthode pour réutiliser les checkpoints de modèles de langage pré-entraînés dans des architectures encoder-decoder. La technique améliore l'efficacité d'entraînement et réduit les ressources nécessaires pour créer des modèles seq2seq performants.
Hugging Face présente les matrices block-sparse pour réduire la taille et accélérer les modèles de langage. Cette technique structure creuse améliore l'efficacité computationnelle sans sacrifier les performances.
Hugging Face présente Reformer, un modèle de langage repoussant les limites de l'efficacité. L'architecture utilise le hachage sensible à la localité et l'attention réversible pour traiter des séquences plus longues avec moins de mémoire, améliorant les performances sur les benchmarks standards.
OpenAI co-organise deux compétitions NeurIPS 2020 avec AIcrowd, Carnegie Mellon et DeepMind. Les épreuves utilisent Procgen Benchmark et MineRL pour évaluer les agents IA sur la généralisation et l'apprentissage par renforcement.
OpenAI adopte PyTorch comme framework de deep learning standard pour l'ensemble de ses opérations.
OpenAI publie une recherche sur le contrôle basé modèle combinant planification en ligne et apprentissage hors ligne. La méthode améliore l'efficacité de l'exploration et de l'apprentissage par renforcement en utilisant des modèles prédictifs pour guider les décisions.
OpenAI propose l'amplification itérée, une technique de sécurité IA permettant de spécifier des comportements complexes en décomposant les tâches en sous-tâches, sans données labellisées ni fonction de récompense. Les expériences restent limitées à des domaines algorithmiques simples.
OpenAI publie des algorithmes de découverte d'options variationnels pour l'apprentissage par renforcement. Ces méthodes permettent aux agents d'apprendre automatiquement des sous-tâches réutilisables sans supervision explicite, améliorant l'efficacité et la généralisation.
OpenAI publie une recherche sur l'apprentissage de représentations de politiques dans les systèmes multi-agents. Les travaux explorent comment les agents peuvent apprendre des représentations efficaces pour coordonner et adapter leurs comportements dans des environnements complexes.
OpenAI présente un nouveau benchmark pour évaluer la généralisation en apprentissage par renforcement. L'outil mesure la capacité des agents RL à s'adapter à des environnements nouveaux et variés, au-delà de leurs données d'entraînement.
OpenAI lance un concours de transfer learning mesurant la capacité d'un algorithme de reinforcement learning à généraliser à partir d'expériences antérieures.
OpenAI publie une méthode pour améliorer les GANs via le transport optimal. La technique réduit l'instabilité d'entraînement et améliore la qualité des images générées en utilisant des distances de Wasserstein.
OpenAI publie une analyse sur les algorithmes de méta-apprentissage du premier ordre. L'article explore les fondements théoriques et pratiques de ces méthodes d'optimisation qui permettent aux modèles d'apprendre à apprendre rapidement avec peu d'exemples.
OpenAI lance un programme de bourses pour 6–10 personnes issues de groupes sous-représentés. Les bénéficiaires étudieront le deep learning à temps plein pendant 3 mois et publieront un projet open-source.
OpenAI explore l'apprentissage par renforcement méta (meta-RL) pour améliorer la capacité des agents à explorer efficacement. L'article examine comment les modèles peuvent apprendre des stratégies d'exploration généralisables plutôt que d'être pré-programmés.
OpenAI a développé un système de désambiguïsation d'entités utilisant un réseau de neurones pour classer les mots dans ~100 types automatiquement découverts (catégories non-exclusives).
OpenAI démontre qu'un agent de meta-learning peut apprendre rapidement à vaincre un adversaire plus fort sans meta-learning dans une simulation de lutte robotique, et s'adapter à des dysfonctionnements physiques.
OpenAI présente une méthode d'apprentissage par renforcement où les agents modélisent l'apprentissage de leurs adversaires pour améliorer leur stratégie. Cette approche, testée dans des environnements multi-agents, permet aux modèles d'adapter leur comportement en anticipant les changements de l'adversaire.
OpenAI présente une approche de curriculum learning où un modèle « enseignant » génère des tâches progressives pour entraîner un modèle « étudiant ». La méthode améliore l'efficacité d'apprentissage en adaptant la difficulté des exemples d'entraînement au niveau de compétence du modèle.
OpenAI explore les environnements multi-agents où les agents rivalisent pour des ressources comme étapes vers l'AGI. Ces environnements offrent un curriculum naturel (difficulté ajustée au niveau des concurrents) et pas d'équilibre stable, créant une pression constante à l'amélioration.
OpenAI publie une recherche sur les réseaux de neurones stochastiques appliqués à l'apprentissage par renforcement hiérarchique. La méthode améliore la capacité des agents à décomposer des tâches complexes en sous-objectifs.
OpenAI a développé un système de détection de spam entraîné entièrement en simulation et déployé sur un robot physique. Première application d'IA de ce type capable de fonctionner dans le monde réel.
OpenAI présente une méthode d'apprentissage par imitation en une seule démonstration. La technique permet aux modèles d'apprendre à partir d'un unique exemple sans entraînement supplémentaire, applicable aux tâches de robotique et de contrôle.
OpenAI publie une recherche sur le développement d'un langage propre par les agents. Les agents apprennent à communiquer entre eux via un protocole émergent, sans supervision humaine explicite.
OpenAI présente les temporal segment models (TSM), des modèles capables de prédire et contrôler des séquences temporelles complexes. Ces modèles segmentent les données en intervalles temporels pour améliorer la prédiction et le contrôle dans des environnements dynamiques.
OpenAI explore les adversarial examples, des entrées conçues pour tromper les modèles ML. L'article explique leur fonctionnement sur différents médiums et les défis de sécurisation contre ces attaques.
OpenAI publie une étude sur les attaques adversariales contre les politiques de réseaux de neurones. La recherche examine comment les modèles d'IA peuvent être manipulés par des entrées malveillantes et propose des méthodes de défense.
OpenAI analyse les défaillances des fonctions de récompense en apprentissage par renforcement. L'article explore comment une mauvaise spécification de la fonction de récompense peut causer des comportements inattendus et contreintuitifs dans les algorithmes RL.
OpenAI et Microsoft étendent leur partenariat : OpenAI exécutera désormais la majorité de ses expériences à grande échelle sur l'infrastructure Azure de Microsoft.