ПостLoGo: Token-Level Dynamic Local-Global Attention

LoGo: Token-Level Dynamic Local-Global Attention LoGo: Динамическое локально-глобальное внимание на уровне токенов https://www.alphaxiv.org/abs/2608.29539 ——— Для каждого токена принимается решение – требуется ли токену глобальный контекст или только локальный. Наверно можно использовать совместно с Autonomy-of-Heads: Data-Free Sparse Attention from Frozen Query-Key Geometry