Retour au feed
Reddit r/LocalLLaMA·

I put together a Rust-native, CPU-only implementation of LFM2.5-8B-A1B

Signal
65
Hype
15
En 3 lignesImplémentation Rust native CPU-only de LFM2.5-8B-A1B avec support des tool calls. Decode ~37 tokens/s sur Ryzen 7950X, prefill non optimisé. Consommation mémoire ~7GB, compatible 16GB RAM. Publié en crate cargo.
Lire la source
Ton avis ?
Open sourceGénération de codeAgents IAOutilsInfrastructure

Résumé généré par Claude — vérifié par l'humain