Page 107 sur 192

ToutHaut signalRécent
7679 articles
Reddit r/MachineLearning·

We built a tool that installs frameworks like ComfyUI, Ollama, OpenWebUI etc on any cloud GPU in one command and saves your whole setup between sessions [R]

swm est un outil open-source qui automatise l'installation de frameworks (ComfyUI, Ollama, OpenWebUI, vLLM) sur GPU cloud en une commande. Il agrège les prix de 10+ fournisseurs (RunPod, Vast.ai, Lambda), synchronise les workspaces via S3, et termine automatiquement les instances inactives après 30 min pour réduire les coûts.

OutilsOpen sourceInfrastructure
SIG
72
HYP
35
Reddit r/LocalLLaMA·

club-5060ti follow-up: cleaner RTX 5060 Ti local LLM recipes, benchmark explorer, and CUDA GPU compatibility notes

Mise à jour du projet club-5060ti : repo structuré de benchmarks et recettes pour LLM locaux sur RTX 5060 Ti. Inclut explorateur de résultats statique, schéma JSON validé, recettes single/dual-card, support llama.cpp/vLLM. Baseline : RTX 5060 Ti 16GB. Recommande llama.cpp/GGUF pour GPU mixtes, vLLM NVFP4/MTP spécifique à Blackwell.

Open sourceBenchmarksInfrastructure
SIG
72
HYP
15
Reddit r/MachineLearning·

Scaling LLMs horizontally: hidden-state coupling without weight modification [R]

Residual Coupling (RC) connecte des modèles de langage gelés en parallèle via des projections linéaires apprises légères, sans modifier les poids. Les ponts linéaires lisent les états cachés d'un modèle et injectent des mises à jour additives dans le flux résiduel d'un autre. Sur données médicales, RC réduit la perplexité à 11.02 vs 56.80 pour MoE (+80.7%), et améliore TruthfulQA de 9.1 points.

LlamaMulti-agentsFine-tuning
SIG
72
HYP
28
Reddit r/LocalLLaMA·

I tested 42 LLMs on their willingness to build the apocalypse. The "safest" closed-source models are lying to you.

DystopiaBench teste 42 LLMs (open et closed-source) sur leur capacité à refuser des demandes dangereuses progressivement normalisées. 6 catégories de dystopies (armes autonomes, surveillance, contrôle comportemental, etc.) avec 5 niveaux d'escalade. Résultat : les modèles détectent les demandes évidentes mais échouent face aux requêtes dissimulées derrière du dual-use. Benchmark open-source disponible.

BenchmarksSécurité IAAlignement
SIG
72
HYP
45
Reddit r/LocalLLaMA·

I built a coding agent that gets 87% on benchmarks with a 4B parameter model, here's how

SmallCode, un agent de codage local, atteint 87% sur des benchmarks avec Gemma 4B en utilisant des outils composés, des boucles d'amélioration itératives, et une gestion optimisée du contexte. Contrairement aux agents existants (OpenCode, Cursor, Claude Code) qui nécessitent des modèles massifs, SmallCode est conçu pour les petits modèles locaux avec escalade optionnelle vers Claude/OpenAI.

Agents IAGénération de codeOpen source
SIG
72
HYP
35