Conversazioneнарод, у кого получилось на винде запустить через питон нейронку с CUDA ускорением? второй день ковыряю, карту грузит до…

3 messaggi · 16:14–16:37

народ, у кого получилось на винде запустить через питон нейронку с CUDA ускорением? второй день ковыряю, карту грузит до 15% и всё. (модель safetensors на 4090, с GGUF моделями проблем таких нет)

16:14

R
Rud 356
Нейронка какая конкретно, в чем запускаешь, как запускаешь?
16:35
1. O
  Oleg
  в пайчарм: import torch from transformers import AutoModelForCausalLM, AutoTokenizer model_name = "Qwen/Qwen3-8B"
  16:37