Predictive Prefetching for Retrieval-Augmented Generation

En 3 lignesFramework asynchrone pour RAG qui prédit quand et quoi récupérer via trois composants (retrieval predictor, context monitor, query generator). Réduit la latence de 43,5% et le time-to-first-token de 62,4% tout en maintenant la qualité des réponses.

Résumé généré par Claude — vérifié par l'humain