Retour au feed
Reddit r/LocalLLaMA·

Galaxy Z Fold6 as a local inference node — llama.cpp/Vulkan, homelab telemetry, SHA-256 model verification

Signal
72
Hype
18
En 3 lignesDéveloppeur crée Pocket Node, une app Android exécutant llama.cpp sur Galaxy Z Fold6. Charge SmolLM3 Q4_0 (1.1B params) via backend Vulkan, vérifie SHA-256 du modèle, expose API compatible OpenAI sur Tailscale, intègre monitoring homelab. Limites : contexte réduit, pas de RAG, thermique élevée en usage prolongé.
Lire la source
Ton avis ?
LlamaGénération de codeOpen sourceOutilsInfrastructure

Résumé généré par Claude — vérifié par l'humain