An overview of modern LLM compiler stack: writing an interactive and hackable compiler

En 3 lignesUn développeur a construit un compilateur ML minimaliste en Python/CUDA pur, sans dépendances externes. Il abaisse des transformers (TinyLlama, Qwen2.5-7B) via 6 IRs successifs jusqu'à des kernels CUDA. Sur RTX 5090, performance à 0.96× du stack PyTorch production, avec 32/84 formes de kernel surpassant les optimisations manuelles (jusqu'à 5.6× plus rapide).

Résumé généré par Claude — vérifié par l'humain