У длинновекторного процессора регистр вмещает 512 чисел FP32, но FlashAttention на нём считал пакетами по 64 и оставлял семь восьмых вычислителя пустовать. Авторы развернули рабочие тайлы так, чтобы вдоль вектора шли запросы, а не признаки одной головы. На кремнии EPAC это вместе с переразмещением коэффициентов exp дало до 2.08× ускорения. →