Python Portal
Видео
TWMate.com-3028b2c42d42b88b77330713fb2f89c7.mp4 · 3.5 МБ
TWMate.com-3028b2c42d42b88b77330713fb2f89c7.mp4 · 3.5 МБ
Можно буквально ввести предложение и посмотреть, как Transformer обрабатывает его.
Этот интерактивный тренажёр запускает GPT-подобную модель прямо в браузере и позволяет проследить весь процесс:
Токенизация → эмбеддинги → Q/K/V → механизм внимания → MLP → логиты → вероятности следующего токена.
Можно изучать карты внимания, промежуточные значения и менять параметры temperature, top-k и top-p, чтобы увидеть, как они влияют на генерацию.
Если для вас трансформеры до сих пор выглядят как набор блоков, соединённых стрелками, стоит попробовать.
https://poloclub.github.io/transformer-explainer/
👉 @PythonPortal
👍13❤3🔥2
111 · 4.3K ·