Відповідьповідомлення недоступне
от як раз офлоадінг це треба двічі прдумати, бо генерація токенів падає в рази і може і на порядок, згаданий мною квен 3.8 27млр параметрів без офлоадінгу генерую близько 70 токенів на секунду на карті 5090, це дуже шустро