Retour au feed
Reddit r/LocalLLaMA·

Voice-to-voice chatbot update

Signal
72
Hype
25
En 3 lignesChatbot vocal local temps quasi-réel utilisant Qwen3.5-397B (Unsloth UD-Q3_K_XL), Whisper-small (STT) et Orpheus Q4_K_XL (TTS) avec décodeur SNAC custom sur ONNX. Interruptible, contexte préservé, 21.3 GB VRAM max sur GPU 24GB, cache KV bf16 131k tokens. Code GitHub annoncé.
Lire la source
Ton avis ?
QwenVoixGénération de codeOpen sourceOutils

Résumé généré par Claude — vérifié par l'humain