Anvil, un wrapper open-source autour de llama.cpp, propose une alternative à Ollama avec transparence accrue : fichiers GGUF lisibles, flags visibles avant exécution, gestion de flotte locale, intégration Hugging Face et support MCP. Construit pour retrouver la simplicité locale-first perdue par Ollama.
Les autorités policières en Angleterre et au Pays de Galles ont reçu l'ordre de cesser d'utiliser l'IA pour rédiger les déclarations judiciaires. Cette directive intervient après des préoccupations concernant la fiabilité et la responsabilité légale des textes générés par IA dans les procédures judiciaires.
Awesome-llm-apps : collection de 100+ applications d'agents IA et RAG prêtes à l'emploi. Clonables, personnalisables et déployables directement.
Sakana AI, co-fondée par Llion Jones (co-auteur de Transformer), lance un laboratoire dédié à l'amélioration récursive : des IA qui s'améliorent itérativement. La startup japonaise voit cette approche comme alternative à la course aux ressources de calcul des grands labs US. Anthropic alerte sur les risques de contrôle.
Khoj est une plateforme open-source d'IA auto-hébergeable permettant de créer des agents personnalisés, d'accéder à des documents locaux ou web, et d'automatiser des tâches. Compatible avec GPT, Claude, Gemini, Llama, Qwen, Mistral.
Meta développe Hatch, un agent IA payant pouvant coûter jusqu'à 200$/mois. L'outil exécute des tâches (création d'outils, planification, emails) à partir de descriptions en langage naturel. Premier produit IA payant de Meta, destiné à diversifier les revenus au-delà de la publicité.
DeepSeek V4 Flash obtient le support llama.cpp via PR #24162 en phase précoce. Le modèle combine intelligence frontière, robustesse à la quantization (FP4-FP8 natif) et efficacité KV cache. Actuellement 5-6 tokens/s, GPU/FA en développement, mais correctness validée.
OpenAI et l'administration Trump négocient une participation gouvernementale directe dans la startup. Un « Public Wealth Fund » verserait les dividendes aux citoyens américains. Le sénateur Bernie Sanders propose une taxe de 50% sur les actions IA. Les critiques craignent un scénario « too big to fail » similaire à 2008.
Sortie de micropython-wasm 0.1a2 avec ajout d'une CLI. Permet d'exécuter du code Python dans un environnement sandboxé WebAssembly.
Un cadre précautionnaire pour évaluer les obligations morales envers les systèmes IA potentiellement conscients. Propose cinq dimensions (conscience phénoménale, valence affective, conscience métacognitive, récit de soi, agentivité) avec seuils binaires et gradation continue. Appliqué à Replika et OpenClaw, architecture-agnostique.
Gemma 4 12B nécessite un fichier de chat template spécifique pour fonctionner correctement en tool calling et coding. Sans cette configuration, les appels d'outils échouent systématiquement. Le template correct permet une évaluation fiable des capacités du modèle avec llama.cpp.
Unsloth publie des versions quantifiées (QAT) de Gemma 4 au format GGUF sur Hugging Face. La collection inclut un guide détaillé sur l'optimisation du modèle.
Google publie Gemma 4 avec quantization-aware training (QAT). Collections disponibles sur Hugging Face : modèles Q4_0 et versions mobiles par Google, plus collections Unsloth.
Satya Nadella critique publiquement un mémo interne proposant de rendre l'agent IA Scout volontairement addictif. Le PDG de Microsoft affirme que l'IA doit autonomiser les utilisateurs et réduire le temps d'écran, non l'augmenter.
Dépôt GitHub officiel OpenAI pour les plugins. Contient documentation, exemples et ressources pour développer des extensions compatibles avec ChatGPT et les modèles OpenAI.
CopilotKit est un framework frontend pour construire des interfaces utilisateur génératives avec agents IA. Supporte React et Angular, propose le protocole AG-UI.
vLLM-Omni étend le framework vLLM pour supporter l'inférence efficace de modèles omnimodaux (texte, vision, audio). Optimisation des performances et gestion mémoire pour déploiement en production.
Pearl, une plateforme d'« AI mining », a été testée avec un budget de 50 $. Résultat : 320 000 GPU n'ont produit aucun résultat IA mesurable. L'article remet en question la viabilité du modèle commercial.
Benchmark de Gemma 4 12B sur un test de détection de bugs Python. Le modèle trouve 6 bugs vs 14 pour Qwen 35B. Les paramètres par défaut de LM Studio désactivent le reasoning. Solution : activer enable_thinking dans le template Jinja, configurer les tokens de pensée (<|channel>thought / <channel|>), et utiliser température 1.0, top_p 0.95, top_k 64.
Un développeur a créé un module Edge AI de moins de 5 MB pour reconnaître le morse manuscrit et imprimé sur Android, fonctionnant entièrement hors ligne avec LiteRT. Le projet soulève la question de l'intérêt des petits modèles spécialisés face à la tendance dominante des LLM locaux plus volumineux.
Wired découvre du code de reconnaissance faciale caché dans l'application IA de Meta. Le code n'était pas documenté publiquement, soulevant des questions sur la transparence de Meta concernant ses capacités de vision et ses pratiques de collecte de données.
Quantifier le spec draft dans llama.cpp avec MTP réduit la taille de contexte disponible. Avec q4_0, le contexte passe de 91648 tokens (fp16 par défaut) à 83200 tokens. Le développeur am17an a confirmé ce comportement contre-intuitif.
Développeur crée un outil d'exploration pour Kokoro avec code MIT. Repo GitHub (brosoundml) + modèles HuggingFace disponibles. Binaires Windows CPU/CUDA fournis. Auteur envisage d'étendre à d'autres modèles.
Google Magenta RealTime 2 : modèles de musique en direct open-source et locaux. Génération musicale temps réel sans serveur cloud, exécution sur machine locale.
Google Magenta RealTime 2 propose des modèles musicaux open-source et locaux pour générer de la musique en temps réel sur ordinateur portable. Permet de construire et jouer des instruments IA sans connexion cloud.
Utilisateur teste Qwen 3.6 35B sur RTX 3080 10GB + Ryzen 7700X. Atteint 1400t/s en prefill et 26t/s en génération avec contexte 131k tokens. Configuration optimisée pour recherche et traitement documentaire avec llama.cpp.
Atelier complet sur YouTube couvrant la construction d'un LLM de zéro (style GPT-2 & Qwen 3.6) sans prérequis mathématiques. Contenu : fondamentaux ML, transformers, architecture neuronale, tokenization, attention, pre-training, instruction tuning, RL. Format : slides + exemples Excel + code PyTorch/CUDA.
Un chercheur résout une tâche ARC-AGI-3 avec 4,76% de score en utilisant uniquement du code Python déterministe et vision par ordinateur classique, sur un CPU AMD FX-8350 de 2012. Aucun LLM, aucun transformer : segmentation de blobs de couleur, détection de centre de masse, et clics spatialisés. Démontre que les modèles frontier échouent à 0% sur ces environnements dynamiques.
Étude systématique des variantes QKV dans les transformers. Les chercheurs examinent si les trois projections (Query, Key, Value) sont toutes nécessaires pour l'efficacité des modèles. Analyse comparative des architectures alternatives.
Entretien avec les auteurs de VendingBench sur l'évaluation des modèles Claude (Haiku à Mythos). Discussion sur la construction d'évaluations frontier robustes et reproductibles.
Anthropic publie un framework open-source pour découvrir automatiquement des vulnérabilités via IA. L'outil exploite les capacités de raisonnement des modèles pour identifier des failles de sécurité dans le code.
Le PDG de Cloudflare Matthew Prince affirme que le trafic bot dépasse désormais le trafic humain sur internet, bien avant sa prévision de fin 2027. Il attribue cette augmentation aux agents IA. Sa conclusion : l'avenir du web sera « pay to crawl ».
Développeur propose une optimisation pour llama.cpp : quantification dynamique du KV cache et chargement à la demande du mmproj. Implémentation PoC avec endpoint HTTP /requantize_kvcache permettant de basculer entre configurations (kvcache quantisé/f16, mmproj on/off) sans recharger le modèle. Testé sur RTX 5090 avec Qwen3.5-27B Q6_K.
Spanlens, un outil open-source MIT, offre un debugging d'agents LLM en changeant une seule ligne de code (baseURL). Il trace les appels multi-étapes, intègre OpenAI/Anthropic/Gemini, masque les données sensibles et permet l'auto-hébergement Docker sans vendor lock-in.
Huawei publie KVarN, un backend de quantification native du KV-cache pour vLLM. Optimise la mémoire et la latence des inférences LLM sans dégradation significative de qualité.
Guide pratique open-source sur les patterns d'ingénierie LLM : RAG, recherche hybride, rerankers, évaluation. Couvre pré-filtrage, scoring en mémoire vs bases vectorielles, batching, nettoyage. Exemples Python inclus. L'auteur souligne que la qualité du harness d'ingénierie égale celle du modèle pour les solutions en production.
Hugging Face publie un guide pour fine-tuner Nemotron 3.5 ASR, le modèle de reconnaissance vocale de NVIDIA. La méthode permet d'adapter le modèle à des langues, domaines ou accents spécifiques via fine-tuning.
PaddleOCR est un toolkit OCR léger et open-source qui convertit documents PDF et images en données structurées. Supporte 100+ langues et s'intègre avec les LLM.
Microsoft publie mxc, un outil open-source de sécurité basé sur des politiques pour l'isolation et le confinement en couches. Destiné à renforcer la sécurité des conteneurs et des environnements d'exécution.
NVIDIA lance NemoClaw, un framework pour exécuter des agents IA (Hermes, OpenClaw) de manière sécurisée via NVIDIA OpenShell avec inférence managée.