Retour au feed
Reddit r/LocalLLaMA·

How I do use the recent llama.cpp native tools to do web rag a.k.a. web_fetch (or anything else for the matter) directly from inside the llama-server's webui

Signal
65
Hype
25
En 3 lignesUn utilisateur de llama.cpp implémente un workflow de RAG web sécurisé en activant les outils natifs du serveur (exec_shell_command) avec multi-sandboxing : firejail + utilisateur Linux dédié + conteneur OCI Alpine. Permet au modèle Qwen 3.6-35B d'exécuter des commandes wget directement depuis l'interface web pour récupérer et analyser du contenu.
Lire la source
Ton avis ?
LlamaRAGOutilsOpen sourceSécurité IA

Résumé généré par Claude — vérifié par l'humain