PJ-RoPE: A Fourier-Jet-Affine Position Space for Relative Attention

En 3 lignesPJ-RoPE unifie les approches RoPE (phase de Fourier), Jordan-RoPE (jets finis) et ALiBi (récence affine) dans un espace de position relative unique et apprenable. Le cadre sépare les noyaux de biais scalaires des transformations de features rotatoires exactes, avec diagnostics adaptatifs et coordonnées LC/rapidité pour stabiliser les jets d'ordre élevé.

Résumé généré par Claude — vérifié par l'humain