20 articles
Hugging Face publie un guide pour affiner les modèles Stable Diffusion via DDPO (Diffusion DDPOTrainer) intégré à TRL. La méthode permet d'optimiser les modèles de génération d'images selon des récompenses personnalisées sans données d'entraînement supplémentaires.
Guide pratique pour entraîner un chatbot LLaMA 2 sans expertise technique. Couvre la préparation des données, le fine-tuning et le déploiement avec des outils accessibles.
Hugging Face publie un benchmark de Llama 2 sur Amazon SageMaker. L'étude mesure les performances d'inférence et de fine-tuning du modèle sur l'infrastructure cloud AWS, fournissant des métriques de latence et de throughput.
ChatGPT intègre désormais la vision, l'audio et la parole. Les utilisateurs peuvent converser oralement avec le modèle, lui montrer des images et recevoir des réponses vocales. Disponible progressivement sur iOS, Android et web.
OpenAI publie la system card de GPT-4V, documentant les capacités de vision par ordinateur du modèle, ses limitations et les risques de sécurité identifiés. Le document détaille les évaluations de performance et les mesures de mitigation des risques.
Hugging Face lance Inference for PROs, une offre d'inférence dédiée aux professionnels avec accès prioritaire aux modèles, support dédié et SLA garantis. Service cloud pour déployer et servir des modèles LLM en production.
OpenAI lance un appel ouvert pour rejoindre son Red Teaming Network. L'initiative recrute des experts en domaines variés pour identifier les failles de sécurité de ses modèles et améliorer leur robustesse.
Rocket Money et Hugging Face collaborent pour déployer des modèles ML volatiles en production à grande échelle. La solution optimise l'inférence et la gestion des ressources pour des modèles instables en environnement critique.
Hugging Face lance un leaderboard dédié à la détection d'objets, permettant de comparer les performances des modèles de vision par ordinateur sur des benchmarks standardisés.
Hugging Face introduit un guide sur le Gaussian Splatting 3D, technique de rendu permettant de représenter des scènes 3D via des gaussiennes. Approche alternative aux NeRF offrant meilleure performance et qualité visuelle.
Hugging Face publie un guide d'optimisation des LLM en production, couvrant techniques de quantification, distillation et déploiement efficace pour réduire latence et coûts d'inférence.
OpenAI ouvre un bureau à Dublin, en Irlande, pour renforcer sa présence en Europe.
Hugging Face présente Würstchen, un modèle de diffusion pour la génération d'images optimisé pour la vitesse. Le modèle utilise une architecture en deux étapes réduisant la latence tout en maintenant la qualité visuelle. Code et poids disponibles en open-source.
Hugging Face publie un guide complet pour fine-tuner Llama 2 70B avec PyTorch FSDP. La méthode utilise le sharding distribué pour optimiser la mémoire GPU et accélérer l'entraînement sur plusieurs nœuds.
Hugging Face détaille les schémas de quantification nativement supportés dans Transformers : GPTQ, AWQ, GGUF, bitsandbytes (8-bit, 4-bit). Chaque méthode offre des compromis entre compression et précision, avec intégration directe dans la librairie.
Hugging Face compare SafeCoder, son assistant de code open-source, aux solutions propriétaires. L'étude évalue la sécurité, la qualité du code et les performances sur des benchmarks standards.
Hugging Face présente T2I-Adapters, des modules légers pour contrôler précisément la génération d'images SDXL sans affiner le modèle. Les adapters permettent de guider la génération via des conditions (croquis, pose, profondeur) avec une surcharge computationnelle minimale.
OpenAI organise sa première conférence développeurs le 6 novembre à San Francisco. Les inscriptions en personne ouvriront dans les prochaines semaines, avec retransmission en direct du keynote.
Hugging Face annonce le lancement de Falcon 180B, un grand modèle de langage open-source avec 180 milliards de paramètres. Le modèle est disponible en versions base et instruction-tuned, conçu pour des tâches de génération de texte et de raisonnement complexe.
Fetch réduit la latence du traitement ML de 50% en utilisant Amazon SageMaker et Hugging Face. L'optimisation porte sur l'inférence de modèles et le pipeline de données pour accélérer les applications en production.