Веб-версияОткрыть в Telegram
Тема
Веб-версияОткрыть в Telegram
SSparse Hash AISparse Hash AI@SparseHashAI · канал · 176 подписчиков

ПостНормализация логитов внимания. Красиво и бесполезно.

30 августа 2026
S
Sparse Hash AI
Фотография
нажмите — покажем
Нормализация логитов внимания. Красиво и бесполезно. scores = F.rms_norm(scores, (scores.size(-1),)) / self.head_dim**0.5
71 ·

Рядом в ленте

SSparse Hash AIРобоманьяк https://d.fixupx.com/PAGE4163929/status/2091544229780787221SSparse Hash AIПервоклашки https://d.fixupx.com/nana__mn707/status/2091165589691834427
это сообщение
SSparse Hash AIHidden Decoding at Scale: Latent Computation Scaling for Large Language Models Скрытое декодирование в масштабе: Масштабирование латентных вычислений для большиSSparse Hash AIhttps://d.fixupx.com/DataChaz/status/2092689771294609416
SSparse Hash AISparse Hash AI@SparseHashAI · канал · Технологии
176подписчиков76средний охват поста
Лента площадки Открыть в Telegram

Открытая публичная лента из поискового индекса ChatCrawler — «Google по публичному Telegram»; обновляется по мере обхода площадки. Время — UTC.

Только публичный контент, официальный API Telegram. О проекте · Вопросы · Чего мы не делаем · Убрать страницу из выдачи · Каталог · Поиск · Как мы считаем