Ответсообщение недоступно
Практически можно запускать модели до 120В. У меня квен 122В и гпт-осс 120В выдают 20-25 токенов в секунду. Никак руки не дойдуть запустить дипсик лайт, пишут что тоже должен работать. Но дело не в этом. Модель с открытыми весами, может инференсить куча независимых провайдеров, как та же Ollama Cloud например. Их уже экспортный контроль не закроет никак. Я вижу в этом плюс