Llama 2 is here - get it on Hugging Face

## Llama 2 : Ce que l'ouverture commerciale change concrètement

### 1. Le saut qualitatif par rapport à Llama 1

Llama 1, sorti en février 2023, était techniquement réservé à la recherche non commerciale — une restriction qui n'a pas empêché ses poids de fuiter sur 4chan en moins de 72h, rendant la politique de licence largement symbolique. Llama 2 rompt avec cette ambiguïté : Meta publie officiellement les poids sous une licence commerciale permissive, utilisable gratuitement pour toute organisation comptant moins de 700 millions d'utilisateurs actifs mensuels (seuil conçu pour exclure Google, Microsoft et leurs pairs directs, pas les startups ni les entreprises mid-market).

La gamme couvre trois tailles : 7B, 13B et 70B paramètres. La variante 70B-chat affiche un taux de préférence humaine de 36% face à ChatGPT-3.5 dans les évaluations internes de Meta, et dépasse PaLM 2-L sur plusieurs benchmarks publics (MMLU, HellaSwag, HumanEval). Ce ne sont pas des chiffres de parité — GPT-4 reste hors de portée — mais ils placent Llama 2 dans une catégorie où le déploiement production est défendable sans compromis majeur sur la qualité.

### 2. Pourquoi le partenariat Hugging Face est structurant

Meta aurait pu distribuer les poids via son propre portail. Le choix de Hugging Face comme canal principal n'est pas anodin : c'est l'infrastructure de facto du ML open-source, avec ses pipelines d'inférence (transformers, text-generation-inference), ses intégrations natives avec les frameworks de fine-tuning (PEFT, LoRA, QLoRA) et sa communauté de 500 000+ modèles dérivés. En s'ancrant là, Meta maximise la vitesse d'adoption et l'émergence d'un écosystème de modèles fine-tunés — ce qui crée une dépendance de facto à l'architecture Llama sans que Meta ait à maintenir l'outillage.

Concrètement, les variantes chat (Llama-2-7b-chat-hf, 13b-chat-hf, 70b-chat-hf) sont disponibles avec des poids en bf16 et des quantizations GPTQ/GGML déjà produites par la communauté dans les heures suivant le lancement. Le coût d'inférence pour le 7B tourne autour de 0,0002$/1k tokens sur une instance A10G — un ordre de grandeur en dessous des API propriétaires comparables.

### 3. Les perdants réels de cette annonce

**Mistral, Falcon, MPT et consorts** : ces modèles open-source de taille comparable perdent leur avantage différentiel. Falcon-40B (TII) avait été le benchmark de référence pour l'open-source commercial depuis mai 2023 ; Llama 2-70B le surpasse sur la majorité des tâches évaluées. MPT-30B de MosaicML (acquis par Databricks) se retrouve dans une position similaire.

**Les fournisseurs d'API mid-range** : Cohere, AI21 Labs, Anthropic sur ses tiers inférieurs — tous proposent des modèles dans la fenêtre 7B-70B à des prix qui ne tiennent plus face à un modèle auto-hébergeable de qualité comparable. La pression sur les marges de ces acteurs est directe.

**OpenAI sur le segment enterprise coût-sensible** : GPT-3.5-turbo reste plus simple à intégrer et bénéficie d'une latence optimisée, mais pour les cas d'usage batch, RAG offline ou traitement de données sensibles (où l'envoi vers une API externe est problématique), Llama 2 devient l'alternative crédible par défaut.

### 4. Ce que cette annonce ne résout pas

La fenêtre de contexte de Llama 2 est limitée à 4 096 tokens — identique à Llama 1, et deux fois moins que GPT-3.5-turbo (16k). Pour les applications nécessitant un contexte long (analyse documentaire, agents multi-étapes), c'est une contrainte réelle que ni le fine-tuning ni le RAG ne compensent entièrement.

La licence commerciale contient des restrictions sur l'utilisation pour entraîner d'autres LLMs — clause qui vise directement les acteurs qui voudraient distiller Llama 2 pour produire des modèles concurrents. C'est une protection IP déguisée en open-source, un modèle que l'industrie va devoir apprendre à lire avec précision.

Enfin, les modèles Llama 2 non-chat (base models) restent moins alignés que leurs équivalents instruction-tuned commerciaux, ce qui implique un travail de RLHF ou de DPO supplémentaire pour tout déploiement grand public. Le coût de ce travail est non trivial pour les équipes sans expertise ML interne.