OSCAR RotationZoo - Offline Spectral Covariance-Aware Rotation for 2-bit KV Cache Quantization

En 3 lignesOSCAR RotationZoo propose une quantification 2-bit du KV cache via rotation spectrale hors-ligne. Implémentations disponibles pour Gemma-4-12B, Qwen3-32B et Qwen3-4B-Thinking avec GGUF et intégrations llama.cpp/sglang.

Résumé généré par Claude — vérifié par l'humain