Hugging Face et NVIDIA lancent Optimum-NVIDIA, une bibliothèque qui accélère l'inférence LLM via une seule ligne de code. Intégration native des optimisations NVIDIA (TensorRT-LLM, cuDNN) pour réduire latence et augmenter throughput sans modification du code utilisateur.
Sam Altman revient à la tête d'OpenAI en tant que PDG. Mira Murati devient CTO, Greg Brockman reprend son poste de président. Un nouveau conseil d'administration est constitué avec Bret Taylor comme président du conseil.
Hugging Face et AWS optimisent l'inférence Llama sur Inferentia2, réduisant la latence et augmentant le débit. Les benchmarks montrent des gains significatifs en vitesse de génération de tokens pour les modèles Llama 2 et Llama 3.
Hugging Face détaille N points techniques clés de l'entraînement RLHF avec PPO : architecture du modèle, hyperparamètres critiques, gestion de la mémoire et optimisations pratiques pour reproduire les résultats de modèles comme ChatGPT.
DALL·E 3 est désormais accessible aux utilisateurs ChatGPT Plus et Enterprise. OpenAI a déployé une pile de mesures de sécurité et partage des avancées en recherche de provenance.
Hugging Face lance Gradio-Lite, une version de Gradio s'exécutant entièrement dans le navigateur sans serveur. Utilise WebAssembly et Pyodide pour exécuter Python côté client. Permet de créer des interfaces interactives sans infrastructure backend.
Hugging Face accélère plus de 130 000 modèles via ONNX Runtime. L'intégration optimise l'inférence sur CPU et GPU, réduisant latence et consommation mémoire. Support multi-plateforme et compatibilité avec les modèles existants.
OpenAI publie la system card de DALL·E 3, documentant les capacités, limitations et mesures de sécurité du modèle de génération d'images. Le document détaille les évaluations de risques, les mécanismes de filtrage et les résultats de tests de robustesse.
OpenAI publie la system card de GPT-4V, documentant les capacités de vision par ordinateur du modèle, ses limitations et les risques de sécurité identifiés. Le document détaille les évaluations de performance et les mesures de mitigation des risques.
ChatGPT intègre désormais la vision, l'audio et la parole. Les utilisateurs peuvent converser oralement avec le modèle, lui montrer des images et recevoir des réponses vocales. Disponible progressivement sur iOS, Android et web.
Hugging Face publie un guide complet pour fine-tuner Llama 2 70B avec PyTorch FSDP. La méthode utilise le sharding distribué pour optimiser la mémoire GPU et accélérer l'entraînement sur plusieurs nœuds.
Hugging Face présente Würstchen, un modèle de diffusion pour la génération d'images optimisé pour la vitesse. Le modèle utilise une architecture en deux étapes réduisant la latence tout en maintenant la qualité visuelle. Code et poids disponibles en open-source.
Hugging Face détaille les schémas de quantification nativement supportés dans Transformers : GPTQ, AWQ, GGUF, bitsandbytes (8-bit, 4-bit). Chaque méthode offre des compromis entre compression et précision, avec intégration directe dans la librairie.
Hugging Face présente T2I-Adapters, des modules légers pour contrôler précisément la génération d'images SDXL sans affiner le modèle. Les adapters permettent de guider la génération via des conditions (croquis, pose, profondeur) avec une surcharge computationnelle minimale.
OpenAI lance ChatGPT Enterprise, une version avec sécurité et confidentialité de niveau entreprise. Offre les capacités les plus puissantes de ChatGPT à ce jour.
Meta lance Code Llama, une variante de Llama 2 spécialisée dans la génération de code. Le modèle supporte plusieurs langages de programmation et offre des performances comparables aux outils existants pour la complétion et la génération de code.
Hugging Face présente AutoGPTQ, une méthode de quantification pour réduire la taille des LLM. L'intégration dans la librairie transformers permet de compresser les modèles tout en préservant les performances, facilitant le déploiement sur matériel limité.
OpenAI active le fine-tuning de GPT-3.5 Turbo, permettant aux développeurs de personnaliser le modèle avec leurs propres données pour des cas d'usage spécifiques.
Hugging Face présente IDEFICS, une reproduction open-source d'un modèle de langage visuel état-de-l'art. Le modèle combine vision et langage pour des tâches multimodales, avec code et poids disponibles publiquement.
Hugging Face lance Swift Transformers, une bibliothèque pour exécuter des LLM directement sur les appareils Apple. Compatible avec Core ML et optimisée pour les performances locales, elle permet le déploiement de modèles sans connexion réseau.
Hugging Face publie un guide pour affiner Llama 2 avec DPO (Direct Preference Optimization). La méthode permet d'aligner le modèle sur les préférences utilisateur sans récompense explicite, réduisant les coûts computationnels par rapport aux approches RLHF traditionnelles.
Hugging Face publie le code et les poids de SD-Small et SD-Tiny, deux modèles de diffusion compressés via distillation de connaissances. Ces variantes réduisent la taille et la latence tout en maintenant la qualité de génération d'images.
Hugging Face lance Agents.js, une bibliothèque JavaScript permettant aux LLM d'utiliser des outils. Elle facilite l'intégration d'agents IA dans les applications web et Node.js via une API simple.
Hugging Face lance Inference Endpoints pour déployer des LLM en production. Service géré offrant scalabilité automatique, monitoring et intégration avec le hub HF. Simplifie l'infrastructure d'inférence sans gérer serveurs.
Étude montrant que les transformers sont efficaces pour la prévision de séries temporelles. Présentation d'Autoformer, un modèle transformer spécialisé qui surpasse les méthodes traditionnelles sur plusieurs benchmarks de prévision.
Hugging Face optimise Stable Diffusion pour Core ML, permettant l'exécution rapide sur iPhone, iPad et Mac. L'implémentation exploite les accélérateurs matériels Apple pour réduire la latence et la consommation mémoire.
OpenAI annonce des mises à jour API : modèles plus contrôlables, capacités d'appel de fonction, contexte étendu et tarifs réduits.
DuckDB intègre l'accès natif aux 50 000+ datasets du Hugging Face Hub. Les utilisateurs peuvent interroger directement les données parquets sans téléchargement préalable via une API SQL simple.
Falcon, un modèle de langage open-source développé par la Technology Innovation Institute (TII), intègre l'écosystème Hugging Face. Le modèle est disponible sur le Hub avec support complet pour l'inférence, le fine-tuning et le déploiement via Inference API.
Hugging Face lance un conteneur d'inférence LLM optimisé pour Amazon SageMaker, facilitant le déploiement de modèles de langage en production avec performance et scalabilité améliorées.
Hugging Face et Intel optimisent Stable Diffusion pour les CPUs Intel via NNCF et Optimum. La quantification 8-bit réduit la taille du modèle de 75% et accélère l'inférence de 2-3x sur CPU sans perte de qualité visuelle significative.
Hugging Face et Microsoft lancent un catalogue de modèles Hugging Face sur Azure. Cette intégration permet aux utilisateurs d'accéder directement aux modèles open-source via la plateforme cloud Microsoft, facilitant le déploiement et l'inférence en production.
Hugging Face présente une méthode de quantification 4-bit avec bitsandbytes et QLoRA pour réduire les besoins en mémoire des LLM. Cette technique permet d'affiner des modèles de 65B paramètres sur une seule GPU 24GB, rendant l'entraînement accessible à plus d'utilisateurs.
Safetensors a reçu un audit de sécurité indépendant confirmant sa fiabilité. Le format devient le standard par défaut pour le stockage de modèles sur Hugging Face, remplaçant progressivement les formats legacy comme pickle.
OpenAI lance l'application ChatGPT pour iOS avec synchronisation des conversations, entrée vocale et accès aux derniers modèles.
Hugging Face présente RWKV, un modèle RNN combinant les avantages des transformers : parallélisation à l'entraînement et inférence linéaire en complexité. Architecture hybride éliminant le goulot d'étranglement quadratique de l'attention.
Hugging Face présente l'Assisted Generation, une technique réduisant la latence de génération de texte via un modèle de draft rapide validant les tokens avec un modèle principal. Amélioration significative de la vitesse sans perte de qualité.
OpenAI utilise GPT-4 pour générer automatiquement des explications du comportement des neurones dans les modèles de langage, puis les évalue. Un dataset complet d'explications et scores pour chaque neurone de GPT-2 est publié.
Hugging Face publie un guide complet pour entraîner des modèles de langage avec la bibliothèque Transformers en utilisant TensorFlow et les TPUs de Google. Le tutoriel couvre l'optimisation des performances et les bonnes pratiques pour l'entraînement distribué à grande échelle.
Databricks et Hugging Face annoncent une intégration offrant jusqu'à 40% d'accélération de l'entraînement et du fine-tuning de LLM. La collaboration optimise les workflows de training sur l'infrastructure Databricks.